OpenAI פיתחה כלי חדש שנועד לזהות טקסט שנכתב על ידי ChatGPT וכלי AI דומים לו. כלי זה מתבסס על טכנולוגיית "טביעת מים" קריפטוגרפית המאפשרת לשתול סימן סודי בטקסט שנוצר על ידי המערכת. המטרה העיקרית של הכלי היא למנוע שימוש לרעה בטכנולוגיה, כמו יצירת תוכן אקדמי מזויף או הפצת תעמולה.
טכנולוגיית "טביעת המים" כוללת השתלת תבנית סטטיסטית במילים, באותיות ובסימני הפיסוק, כך שתאפשר זיהוי תוכן שנוצר על ידי AI. התבנית הזו משתלבת בטקסט בצורה בלתי נראית, אך ניתן לזהותה על ידי כלים מתאימים. לדוגמה, טקסט שנכתב על ידי AI יכיל סדר מסוים של מילים או סימנים שאינו קיים בטקסט שנכתב על ידי בני אדם.
אף על פי שהכלי מוכן לשימוש ומסוגל לזהות טקסט שנכתב על ידי AI בדיוק של 99.9%, OpenAI דחתה את השקתו. ההחלטה התקבלה לאחר דיונים פנימיים וחששות מההשפעות השליליות האפשריות. בין היתר, קיים חשש שהטכנולוגיה תפגע בדוברי אנגלית שאינה שפת אם, אשר עלולים להיתפס בטעות כמשתמשים ב-AI. בנוסף, ישנו חשש להיווצרות סטיגמות על השימוש ב-AI בקרב הציבור הרחב.
בעוד שהטכנולוגיה עשויה להיות כלי יעיל במניעת גניבת דעת ושימושים לא מוסריים אחרים, ישנם גם אתגרים. אחד החששות הוא האפשרות לעקוף את הטכנולוגיה על ידי שינויים קטנים במבנה הטקסט. OpenAI ממשיכה לחקור ולפתח את הכלי כדי לשפר את יכולות הזיהוי ולצמצם את האפשרויות לעקיפתו.
OpenAI מתמודדת עם אתגרים מוסריים וטכנולוגיים במאמץ לשלב את הכלי החדש. החברה שואפת למצוא את האיזון הנכון בין שמירה על מוסריות ושימוש נכון בטכנולוגיה, לבין מתן תמיכה ושימושיות למשתמשים. הכלי החדש עשוי לשנות את האופן שבו אנחנו תופסים טקסטים שנכתבו על ידי AI ולהשפיע על השימושים בטכנולוגיות מתקדמות אלו.
כיום ישנם מספר כלים מובילים לזיהוי טקסט שנוצר על ידי בינה מלאכותית:
- Originality.AI – נחשב לאחד הכלים המדויקים ביותר בשוק. הוא מסוגל לזהות טקסטים שנוצרו על ידי מודלים כמו GPT-4, GPT-3, GPT-3.5, ו-ChatGPT.
- Copyleaks – כלי נוסף שמתמחה בזיהוי תוכן שנכתב על ידי AI וגם בבדיקת גניבת דעת. הוא מתאים במיוחד לשימוש ארגוני.
- ZeroGPT – כלי שהוכח כיעיל במיוחד בתחום הרפואי, ומאפשר סינון ראשוני של תוכן שנוצר על ידי AI.
אחוזי הדיוק בכלים אלה משתנים ומתעדכנים בהתאם למודלים ולסוגי הטקסטים הנבדקים. לדוגמה, Originality.AI מציין יכולת זיהוי גבוהה במיוחד לתוכן שנכתב על ידי AI. עם זאת, חשוב לשים לב כי הדיוק תלוי גם בסוג הטקסט ובמודל ה-AI שיצר אותו.
