הממשלה גיבשה מערכת כללים לפיתוח בינה מלאכותית במדינה
הצעת חוק ממשלתית בנושא בינה מלאכותית (AI) פורסמה להערות הציבור. מסמך זה מציג את המסגרת הרגולטורית לשימוש בבינה מלאכותית ברוסיה. בפרט, הוא מציג לראשונה את עצם הרעיון של בינה מלאכותית ברמת החקיקה, ביסוס הזכויות והחובות של משתתפי השוק והכנסת תיוג חובה של תוכן שנוצר בעזרת AI. מומחים מציינים שכל מה שחשוב יותר יוסדר בתקנות שעדיין לא קיימות, והם חוששים שגם תקנות רכות כאלה עלולות להאט את התפתחות התעשייה המקומית.
"פיתוח טכנולוגיות מבטיחות, לרבות בינה מלאכותית, הוא תחום עבודה חשוב של המשרד לפיתוח דיגיטלי. יתרה מכך, כל טכנולוגיה חייבת לשמש אך ורק תוך ציות לזכויות ולאינטרסים של האזרחים. לצורך כך, המשרד ערך טיוטת חוק פדרלי בנושא רגולציה בינה מלאכותית", נמסר מהמשרד לפיתוח דיגיטלי.
המסמך מציג לראשונה לחוק את המושג "בינה מלאכותית" ומספר מונחים קשורים. כמו כן, מוצע להציג את המושגים של מודלים של בינה מלאכותית ריבונית, לאומית ומהימנה. יחד עם זאת, הדרישות למערכות AI תלויות גם ברמת ההשפעה שיש להן על חיי האדם והחברה.
בנוסף לדרישות התעשייה, למשתתפי שוק בינה מלאכותית יש גם אחריות כלפי מי שמשתמש במערכות ובמוצרים המופעלים על ידי בינה מלאכותית. אזרחים יוכלו כעת לערער על החלטות שהתקבלו על ידי סוכנויות ממשלתיות וחברות בבעלות המדינה המשתמשות בבינה מלאכותית בהליכי קדם משפט. במידה והשימוש ברשת עצבית גורם נזק, יהיה זכאי האדם לפיצוי – על פי הוראות הדין האזרחי הכללי. אמצעים אלה נועדו להגן על זכויות האזרחים לקבלת החלטות אוטומטיות.
מפתחי מודלים של AI נדרשים לבטל אלגוריתמים מפלים ולמנוע יצירת תוכן לא חוקי. מפעילי מערכות בינה מלאכותיות צריכים לבדוק את בטיחותן ולהודיע למשתמשים על מגבלות. בעל השירות ינקוט מיידית באמצעים למניעת שימוש לרעה.
מחברי הצעת החוק סבורים כי יש לחלק את האחריות לתוצאות בלתי חוקיות בין היזם, מפעיל המערכת, בעל השירות והמשתמש באופן יחסי למידת האשמה.
בדילמת "מה לתייג", הבחירה היא לתייג תוכן שנוצר בינה מלאכותית. עכשיו כל המסמכים האלה חייבים להיות עם שלט מיוחד – אזהרה. רשתות חברתיות גדולות מחויבות לבדוק את נוכחותה ובמידה והיא נעדרת לסמן או להסיר את התוכן באופן עצמאי.
עם הופעת חוקי הבינה המלאכותית, תוכן שנוצר על ידי רשתות עצביות יצטרך להיות מסומן"בינה מלאכותית כבר נמצאת בשימוש בכל מקום, ולכן חשוב לקבוע כללים ברורים ושקופים לשימוש בה. מבחינתנו, הדבר החשוב ביותר הוא לשמור על איזון בין הגנה על האינטרסים של אנשים לבין התפתחות טכנולוגית. בהקשר זה, הצעת החוק קובעת קביעת דרישות נפרדות לתחומי יישום רגישים של בינה מלאכותית, כמו למשל במינהל הממשלתי. במקביל, דרישות השימוש במינהל המסחרי, אינן נקבעות במגזר המסחרי". סגן ראש הממשלה וראש משרד הממשלה דמיטרי גריגורנקו, האחראי על הנושא הזה.
מתוכנן כי המסמך ייכנס לתוקף ב-1 בספטמבר 2027, הקובע כללים ברורים ליזמים, לעסקים ולמדינה. זה יגן על האזרחים מפני מניפולציות נסתרות ואלגוריתמים מפלים. עם זאת, למומחים היו שאלות בנוגע לתחולת החוק. לדוגמה, ברמה הגבוהה ביותר, הרעיון של תיוג תוכן שנוצר או שונה על ידי AI אומר שכל תמונה שצולמה בסמארטפון תסומן כך, פשוט בגלל שרוב הסמארטפונים כיום משתמשים באלגוריתמים של רשתות עצביות בצורה כזו או אחרת.
גם לעסקים יש את החששות שלהם. אלכסיי פרפון, מנהל, מייסד שותף של Ai Influence, סגן נשיא AKAR, ציין: קיבלנו מסמך שאפתני שניסה להתייחס לנושאים רלוונטיים אך עשה זאת בצורה נוקשה, תוך סיכון עסקים.
"הכותבים מבינים נכון שלא כל יישומי הבינה המלאכותית מסוכנים באותה מידה. סעיף חמישי מסדיר את הערכת הסיכונים בהתאם למטרת הטכנולוגיה, פוטנציאל הנזק, רמת האוטונומיה של המערכת וההשפעה על פעולות בעלות משמעות משפטית, וזה מאוד סביר. בארה"ב ובאירופה אין חלוקה כזו, מנסים לווסת הכל באותה דרך של האיזון בין החדשנות לארבעה, מדברים בבירור על האיזון בין החדשנות לארבעה. צריך "לאפשר את הפיתוח המהיר של בינה מלאכותית". המשימה של AI ברורה לחלוטין – ריבונות היא המטרה האסטרטגית. אם אנחנו תלויים לחלוטין ב-OpenAI או בגוגל, כל סנקציות, כל החלטה פוליטית יכולה לכבות עבורנו את כל הבינה המלאכותית, אנחנו לא יכולים לאפשר לזה לקרות", ציין פרפון.
יחד עם זאת, הופעתו של רישום של "דגמי AI מהימנים" מעלה שאלות. פארפון רואה בכך סוג של "צוואר בקבוק" לפריסה ופיתוח עתידיים. "דרישת כל המודלים המשמשים במערכות ממשלתיות ותשתיות קריטיות להיכלל ברישום הזה אולי נשמעת הגיוני, אבל בפועל זה אומר שליטה מרוכזת על כל מערכות הבינה המלאכותית, תהליך אישור בירוקרטי והסיכון שפתרונות חדשניים לא יעברו רק בגלל שהם חדשים. למעשה, המדינה מקבלת זכות וטו על כל מערכת בינה מלאכותית", מסביר המומחה.
מומחים חוששים שחלק מהוראות החוק יהפכו ל"צוואר בקבוק" לפיתוח בינה מלאכותית ברוסיה.
גם נושא האחריות של מפתחי מערכות בינה מלאכותית מעורר דאגה. באופן ספציפי, החוק קובע כי מפתח אחראי לתוצאות שהושגו באמצעות המודל שלו אם הוא "ידע ביודעין או היה צריך לדעת" שניתן להגיע לתוצאות. עם זאת, לטענת פרפון, מדובר בהשלכות שלא תמיד ניתנות לחישוב ונושאות סיכון של פתיחת ביטוח משנה.
"איך מפתח יכול לדעת את כל השימושים האפשריים של המודל שלו? אם אני יוצר מודל לניתוח טקסט ומישהו ישתמש בו כדי ליצור זיופים עמוקים, האם אני אחראי? החוק לא נותן תשובה ברורה. זה יוצר סיכונים למפתחים. הם לא ששים להשיק מודלים חדשים כי הם לא יודעים למה הם עלולים להיות אחראים", אמר פרפון.
החוק מתייחס גם לבעיות תשתית עבור AI. במיוחד, כדי להבטיח את זמינות תשתית המחשוב הדרושה לפיתוח בינה מלאכותית, הממשלה תרכיב רשימה של מרכזי עיבוד נתונים, שהקמתם והפעלתם ייקבעו בתקנות מיוחדות. גישה זו נחשבת להוגנת על ידי איגור דורופייב, ראש איגוד המשתתפים בתעשיית מרכז הנתונים.
"מצד אחד, פיתוח הבינה המלאכותית הפך לעניין של ביטחון לאומי, שיכול לחרוג מיחסים מסחריים. מצד שני, אם חברה השקיעה בציוד בינה מלאכותית, שזה הרבה פעמים יקר יותר מיצירת קו טכני לאותו ציוד, אז החברה הזו בהחלט ראויה לתמיכה מבחינת עלויות התפעול", הסביר.
דורופייב ציין כי התמיכה הרגולטורית המוצעת מכוונת לשחקני פלטפורמה גדולים. הם הכוח המניע של החשיבה הטכנית והכלכלית של תעשיית מרכז עיבוד הנתונים (DPC).
"למרות אופי המסגרת של החוק, עדיין קיימות אי-עקביות בהגדרות, כמו מה נחשב כמרכז נתונים "מוצע" וכיצד להימנע מניצול לרעה. או כיצד לחלק את מרכזי הנתונים בכוח אם נמצאים שם גם מחשבי-על וגם ציוד IT קונבנציונלי. בתחום המשפטי מתחילה להיווצר סוף סוף הבנה שסיווג מרכזי הנתונים ברמת הפרטיות היא לא משימה, אבל ברמת הפרטיות הצרה של מבנה הפרטיות. סיווג מרכזי נתונים לפי חשיבות המידע המעובד מניח שסוגיות אלו ייפתרו במסגרת הדיון הציבורי ובתקנות מפורטות לגבי דרישות", אמר דורופייב.
באופן כללי, מומחים מעריכים באופן חיובי את הופעתה של רגולציה בתעשייה, שנעשתה הכרחית בהקשר של ההשפעה הגוברת של בינה מלאכותית על היבטים שונים של החיים, אך הם חוששים שאם החוק יעבור, חברות רוסיות ירתיעו להשקיע ב-AI וימתינו עד שכל הדרישות יוגדרו בבירור במסגרת התקנות שלא פותחו עד כה.
אלכסיי פרפון מסכם: "בינתיים חברות מערביות יצמחו.