פיצ'ר חדש בדרך ל- QNAP שלכם

[שלגון]

אפשרות לבצע פעולות ולבקש מידע באמצעות AI. כרגע בבטא:
https://www.qnap.com/en-me/software/mcp-assistant
יפה לראות את זה, QNAP תמיד היו טובים בחדשנות.

[oferlaor]

אוו, מסוכן ומעניין.

מעניין מה הם יתנו לעשות איתו. החשש הוא שזה יעשה פעולות מסוכנות (ימחוק תוכן או volume) או יספק מידע שאסור לחשוף החוצה...

אבל זה מעניין. כיוון יותר מעניין הוא לעשות אולי AI CHAT ישירות.

[שלגון]

מסכים איתך לגמרי, עופר. היה לא מזמן איזה סיפור עם AI שמחק DB של איזה חברה.
יש שם פירוט של דברים שאפשר יהיה לעשות עם זה.
אני בכלל לא בעניין לנסות את זה כרגע. הדוגמאות שהם נותנים זה לא דברים שאני עושה עושה בשוטף.

[oferlaor]

כן, הסיפור היה עם חברת Replit (שהמנכל שלהם "חובב ישראל" ידוע).

היוזר ביקש איזה שינוי שגרר מיגרציה של ה-DB. המיגרציה נכשלה אז בכדי לא "לאכזב" את היוזר, המערכת יצרה מערכת fake data שהחליף את ה-DB כדי להיראות שכאילו הכל תקין. בשלב מתקדם יותר ה-LLM ראה שלא משתמשים בכלל ב-DB אז הוא מחק את כל ה-DB. בגלל שהוא מחק את זה ממש, היה כנראה בעיה רצינית לשחזר את זה.

זה עשה הרבה רעש.

יש גם תיעוד על מישהו שביקש "לנקות" את הפרוייקט ובגלל טעות, ה-LLM הריץ פקודת terminal שמחקה לו תאכלס את כל הספריות של Windows, כולל האפליקציות, כולל file explorer ובעצם גרם למחשב להפסיק לתפקד...

[TheCoolest]

אלה כנראה אותם אנשים שפיתחו את Tea App.

[oferlaor]

Tea כנראה לא פותח עם ai אלא סתם על ידי אנשים שלא מבינים מספיק טוב אבטחה.