האם AI יכול לפרוץ הכל? מדוע אסור ל-Mythos להיכנס לעולם

בעוד שתעשיית הבינה המלאכותית מתחרה על מהירות השחרור, אנתרופיק נוקטת בגישה אחרת. דגם Mythos החדש של החברה לא ישוחרר לציבור, למרות שהוא מאוד מעוניין בפיתוח.

הסיבה היא לא החולשה, אלא להיפך, ההזדמנות. לטענת החברה, המערכת הוכיחה כי היא יעילה ביותר באיתור נקודות תורפה בתוכנה, כולל מערכות הפעלה ודפדפנים פופולריים.

כפי שצוין על ידי "Central News Service", פונקציונליות זו הופכת את המודל לשימושי ועלול להיות מסוכן כאחד. אנתרופיק מאמינה שאם הטכנולוגיה הזו תתפשט ללא פיקוח, היא תוכל לשמש לא רק להגנה אלא גם לתקיפה.

החברה הסבירה כי החליטה להגביל את הגישה כדי להפחית את הסיכון להתעללות. אנחנו מדברים על ניסיון לשמור על קיימות הסביבה הדיגיטלית, שתלויה במידה רבה באבטחת פתרונות התוכנה.

יחד עם זאת, הדיון סביב Mythos חורג מהניסוחים הרשמיים. משקיפים מכירים בכך שהחברה לוקחת בחשבון גם את הסיכונים שלה – החל ממוניטין ועד לאחריות משפטית אפשרית.

המצב משקף מגמה רחבה יותר: התפתחות הבינה המלאכותית מלווה יותר ויותר בשאלות לגבי הגבולות של מה שמקובל. הסיפור של Mythos מראה שגם במירוץ הטכנולוגי, זהירות היא עדיין חלק חשוב מהאסטרטגיה.