חברת OpenAI השיקה בשבוע האחרון כלי גרפי חדש, כחלק מהיכולות של מודל השפה GPT-4o, המאפשר למשתמשים להעלות תמונה ולבקש מהמערכת לעבד אותה כמעט בכל צורה אפשרית – לרבות חיקוי סגנונות אמנותיים מוכרים, שינוי זיהוי חזותי מוחלט, ואף יצירת תוכן רגיש או שנוי במחלוקת.
הכלי עורר עניין נרחב בעולם, עם אינספור עיבודים לתמונות של ידוענים, פוליטיקאים ואף דמויות היסטוריות. עם זאת, התגובות לא איחרו לבוא גם מהכיוון ההפוך – רבים הצביעו על כך שכלי העריכה החדש מאפשר הפקה פשוטה של תכנים מזויפים, מעוותים, ולעיתים פוגעניים.
המהלך מסמן שינוי במדיניות OpenAI, שבעבר פעלה בזהירות בתחום התוכן החזותי. החברה אישרה כי הכלי החדש כולל רמות בקרה מופחתות, וכי ההגבלות שהיו נהוגות במודלים קודמים – צומצמו באופן מודע.
לדברי מנכ"ל OpenAI, סם אלטמן, מדובר במהלך מודע שמטרתו לאפשר חופש יצירתי מרבי למשתמשים. עם השקת הכלי כתב אלטמן: "אנו מכוונים לכך שהכלי לא ייצור תכנים פוגעניים – אלא אם המשתמש יבחר בכך, ובגבולות הסביר. זהו שיא חדש עבורנו במתן חופש יצירתי".
OpenAI הבהירה כי הגבולות הקיימים כוללים עדיין מגבלות על תוכן בעייתי. עם זאת, החברה מסתפקת בהוספת מטא-נתונים (C2PA) לקבצים ולא משתמשת ב"סימני מים" חזותיים לציון שמדובר ביצירה מבוססת בינה מלאכותית – דבר המעורר חשש בקרב מומחים לזיהוי דיפייק.
גורמים בתעשייה ובאקדמיה מזהירים כי הכלי החדש עלול להוביל להחמרה בתופעת התעמולה החזותית, הפצת מידע כוזב, וערעור נוסף על האמון הציבורי באמצעי תיעוד חזותיים – גם כאשר הם אותנטיים.
הבעיה המרכזית, לטענת המבקרים, היא היכולת להפיק תוך שניות תמונות שנראות ריאליסטיות לחלוטין אך לא התרחשו מעולם – מה שמקשה גם על מומחי אבטחת מידע ומדיה לזהות זיופים. "הטכנולוגיה הזו מאיצה את תהליך הפיכת האמת לאופציה בלבד", נכתב באחת ההתייחסויות של ארגוני זכויות דיגיטליות.
מלבד ההיבטים האתיים, עולה גם סוגיית זכויות היוצרים. משתמשים רבים העלו לרשת גרסאות של דמויות וזכיינים מוגנים בזכויות – בהם סגנונות מוכרים של דיסני, האנימה של סטודיו ג׳יבלי, משפחת סימפסון, רחוב סומסום ואחרים. מייסד ג׳יבלי, הייאו מיאזאקי, כבר הביע בעבר את התנגדותו לשימוש בטכנולוגיה ליצירת חיקויים לסגנונו, וכינה זאת "עלבון לחיים עצמם".
OpenAI מתנגדת לרגולציה מחמירה, אך תומכת ב"גבולות רחבים" שייקבעו על ידי החברה. לפי מסמך שפרסמה בתחילת החודש ובו המלצות לממשל האמריקאי, החברה הציעה לבטל כ-780 חוקים והצעות חוק שעסקו בפיקוח על AI, כדי "לא לעכב את ההתקדמות בפיתוח בינה מלאכותית כוללת (AGI)".
אלטמן עצמו התייחס לכך בציוץ: "אנחנו מאמינים ששליטה בידי המשתמשים, תוך הקשבה למה שהחברה בוחרת להציב כגבול – זו הדרך הנכונה".
