אלון מאסק - האנושות היא הכנה ל AI

שליחה 02/09/2019 15:59

עכשיו נותר לתהות האם הבחור גאון או שהוא פשוט עישן חומר טוב באותו היום

[left]Elon Musk: Humanity Is a Kind of 'Biological Boot Loader' for AI
[/left]

https://www.wired.com/story/elon-musk-h ... loader-ai/

שליחה 04/09/2019 15:53

[left]Elon Musk's AI dystopia is no match for Jack Ma's logic
[/left]

https://www.thenational.ae/business/com ... c-1.905422

boazj · שליחה 07/09/2019 22:31

Huber כתב:עכשיו נותר לתהות האם הבחור גאון או שהוא פשוט עישן חומר טוב באותו היום

[left]Elon Musk: Humanity Is a Kind of 'Biological Boot Loader' for AI
[/left]

https://www.wired.com/story/elon-musk-h ... loader-ai/
...

·
זה לא כל-כך מופרע.
נראה לי שהכיוון נכון.
כבר היום ברשתות נוירונים, ותוכנות AI מתקדמותף יש קבלת החלטות שאנחנו בכלל לא יכולים להבין אותה.
לא יודעים מה הרשת למדה ומה האלגוריתם הפנימי.
אבל זה עובד, והרבה יותר טוב מכל מה שהאדם מסוגל לתכנן/לפתח.
זה קיים גם בראיה ממוחשבת וברכב האוטונומי.
אלגוריתמים של machine learning ו neural network בכל מקום

שליחה 08/09/2019 9:47

אז אתה מאלו שמאמינים שבעתיד AI ישלוט בכדוה"א?

ufffnick · שליחה 08/09/2019 15:09

@boazj
·
זה פשוט לא נכון.
רשתות AI המתוחכמות ביותר, הן רק אלגוריתם בסופו של יום. הקושי הוא לא בלהבין אותו או את הדפוס שהוא מצא, הקושי הוא להסביר את התהליך למציאת הדפוס, מאחר ומדובר בתהליך למידה של המון איטרציות.
באותה מידה אפשר לקבל הרבה שטויות ברשתות AI.
אחד המור"קים בתחום הוא ניסיון לזהות סרטן ממאיר לעומת שפיר, מתמונה. בתהליך הלמידה הגיעו לתוצאות מטורפות של זיהוי, רק כשהביאו תמונה שלא ממאגר הלמידה, האלגוריתם כשל.
מפה לשם (ולקח קצת זמן לעלות על זה), הדפוס שהAI מצא הוא שבכל התמונות בהן יש סרגל קטן בצד שמודד את גודל הגוש - הוא ממאיר (כי הרופא צילם עם הסרגל לתיעוד המימדים) בעוד לשפיר - לא היה סרגל בצד.
קוראים לזה Garbage in - Garbage out.

לכן להצהיר שזה "עובד" זה קצת רדוד.
זה עובד במקרים מאוד ספציפיים, על סוגי מידע מאוד מסויימים דרך תהליך ניסוי וטעייה מאוד ארוך ומתיש.

המרחק לSkynet פשוט גדול מידי מכדי לתאר...
אבל זו יופי של כותרת כדי לשווק את עצמך כדבר הבא הבטכנולוגיה.

ונקודה אחרונה -
המושג neural network, זו אחת השיטות תחת הכותרת machine learning, לא היעילה והמהירה ביותר, ולא תמיד הקלה ביותר לבנייה.

boazj · שליחה 08/09/2019 16:24

לא הבנתי איך מה שאתה כותב, סותר את מה שכתבתי. אבל שיהיה.

שליחה 08/09/2019 16:29

בואו נבין שמאסק רואה מאוד רחוק קדימה, אבל הוא לגמרי לא הוזה, גם כשלוקחים משפטים שלו מחוץ לקונטקסט. הטיעון שלו הוא שלאור קצב ההתקדמות הנוכחי, זה רק עניין של זמן עד שתגיע ה singularity ושבשלב כזה או אחר היא תפתח לא רק מודעות לעצמה אלא שהיא תחיה הרבה מעבר לאנושות מכיוון שהיא הרבה פחות מוגבלת והרבה יותר יעילה מאיתנו. לפיכך, AI יהפוך לתוצר הכי חשוב שבני האדם יצרו וכנראה משהו שיחיה הרבה אחרי שהאנושות תסיים את תפקידה.

שליחה 08/09/2019 16:44

@oferlaor
·זה מה שטען קורצוויל לפני 20 שמה והוא זה שגם הטביע את המונח singularity. יש כאלה שגם טוענים שאנחנו לא נשים לב לכך לכשנגיע לשלב הזה, החל מיצ'יו קאקו הפיזיקאי האמריקאי ממוצא יפני (הפיזיקה של העתיד) ועד לסופר האנגלי ניל אשר שבסדרת ספרי המד"ב שלו קרא לעימות שבין הבינה המלאכותית לבין האנושות בשם "המלחמה השקטה".

העליה של הבינה המלאכותית לא מפריעה לי אישית, גם בגלל שאני טכנופיל וגם בגלל שככל שאני מזדקן ומתבגר כך אני יותר ויותר מתיאש מהאנשים שסביבי.

שליחה 08/09/2019 16:44

עופר - מכיר את הביטוי "הנבואה ניתנה לשוטים..."?

אף אחד לא יודע לאן AI עומד להתפתח, אף אחד לא יודע מה עתיד האנושות, ובטח ובטח לא מה הקורולציה בין שני הלא נודעים הללו.

שליחה 08/09/2019 17:10

עד כמה ה AI חדר לחיינו שמעתי מהסיפור על נפילת הלירב שטרלינג

בכתבה שנעשתה על ידי אחד מערוצי הרדיו הרציניים (אם אני לא טועה אז גלי צהל או רשת ב') נאמר שהפיחות הגדול בלירה שטרלינג נעשה על ידי מערכות מחשבים שמהנתונים שהוזרמו אליהן הכחילו לגרום לירידה דרמטית בערך המטבע

לכלכלנים לא היה ועד היום אין מושג למה המטבע פוחת ברמה כזו גבוהה העיתונים מאשימים משפט שאמר ראש ממשלת צרפת, הולנד.

ראו ידיעה בכלכליסט

https://www.calcalist.co.il/markets/art ... 97,00.html

שליחה 08/09/2019 18:16

@Huber
·אני דווקא נהנה מהאוטיסטים שלו. הוא לא מפחד להגיד מה שעולה לו בראש והוא אחד האנשים היותר אינטיליגנטים בעולם.

שליחה 08/09/2019 18:18

@molvy
·יש הרבה מאוד מערכות ממוחשבות שמנסות לחזות תהליכים, לעקוב אחרי חדשות ולתרגם את זה לצעדים בבורסה או שוק המטבעות. כל תנועה מחמירה את המצב ולכן קל מאוד לראות באג או שטות רנדומלית שמישהו אמר בעיתון מוביל שגורם לקריסה כלכלית של מטבע, מניה או אפילו בורסה שלמה.

menny · שליחה 08/09/2019 20:10

בקיצור, התשובה היא 42

ufffnick · שליחה 08/09/2019 20:25

@molvy
@oferlaor
·

זה לא באג, זו מגבלת המכונה הלומדת.
ותרשו לי להשתמש במושג שהרבה יותר מתאים לכך מאשר AI - שהוא מושג שיותר מידי נושק למד"ב מאשר למציאות הטכנית שלו.

אפשר לקחת את שוק ההון כדוגמא, בו מתבצעת למידה היסטורית לבסס את המכונה הלומדת עד איזושהי נקודת התחלה, ומשם מתבצעת למידה תוך כדי חיזוי.
למעשה המכונות הלומדות יעילות מאוד בחיזוי של סדר גודל פחות משנייה, ועל כך עושים את רוב הכסף בשוק ההון.
החיסרון שלה היא שהלמידה מתבצעת על מקבץ פיצ׳רים (תכונות המקשרות בין גורמים סביבתיים לתנודתיות של שוק ההון), שלהם יש משקל שרלוונטי ללמידה ההיסטורית.
המכונה לא יודעת לשנות את המשקלים שלהם כתגובה לאירועים במציאות - זה יכול להעשות ע"י עוד מכונה לומדת, שתחזה את המשקלים, אבל גם לה אותה מגבלה, לכן צריך עוד מכונה ש... הבנתם ת׳פואנטה.
הכי יעיל זה לשנות ידנית (נכון להיום) ולעדכן את אותם הפיצ׳רים, לא רק במשקלים אלא במציאה של תכונות נוספות שלהם יש עלייה בהשפעה על שוק ההון. זה נעשה ע"י בחירה סלקטיבית של המידע איתו תרצה לבצע את הלמידה למכונה, שתבנה את המשקלים מחדש. מכאן שאין פה קסם - המידע שנכנס בתהליך הלמידה הוא זה שמשפיע באופן הכי משמעותי - מה המשקלים של הפיצ׳רים (מה שמכנים "דפוסים") שאותם המכונה לומדת.
וזה לפני שנכנס בהשפעת הגבר שהמכונות עשויות לגרום להתנהגות השוק - מספר מכונות הגיבו לכותרת של ידיעה כלכלית (כי לזה אצלן משקל גבוה), מכונות אחרות שרגישות יותר לרכישות-מכירות ולנגזרת הרגעית של מניות - יגיבו מיד אחריהן ויגבירו את התגובה של הראשונות... וכו'.

המשמעות של זה שאם נפשט והמכונה שלנו חוזה בדיוק גבוה את מה שיקרה בשנייה הקרובה בשוק, ע"י כניסה של ידיעות רצות מאתרי הכלכלה, ושמות דגש על אמירות של אנשי מפתח בשוק ההון (לפי תפקיד), מספיק החלפה של בעל התפקיד והגישה הכלכלית שלו בכדי להוריד מכונה ולאמן מחדש עם פיצ׳רים שרלוונטיים לשינוי הסינגולרי בזמן.

מכונה לומדת לא יודעת לחזות מחוץ למגרש המשחקים המוגדר לה, ויותר מזה - היא לא מסוגלת להתסגל לשינויים במציאות, שהם... חלק מהמציאות.

כדי להגיע למה שמציירים במד"ב כAI נדרשת קפיצת מדרגה טכנולוגית אדירה, שתבנה מעין רשת נוירונים אוניברסלית ש... כבר קיימת, אצל רוב בע"ח על פני כדוה"א.
ולפני שיקפצו - רשתות נוירונים היום נבנות לפתור בעיה ספציפית, לרוב לא ניתן להשתמש באותה רשת נוירונים לבעיות שונות במהותן (גם אם נאמן אותן מ0, ללא זיכרון עבר).

אנקדוטה מעניינת - עד היום הכי רחוק שהגיעו עם מכונה לומדת שמחקה בע"ח זו תולעת מיקרוסקופית פשוטה שרוב החיים שלה (שעות בודדות) היא מנווטת במדיה נוזלית למצוא מולקולות אוכל (ללא מנגנון הרבייה).
וביננו, אפשר היה לפתור את זה בלי מכונה לומדת, כי האלגוריתם די סגור.

dudib · שליחה 08/09/2019 23:23

מעניין או מפחיד
[url=]זה העתיד ?

avihuli · שליחה 09/09/2019 0:02

דיון מאוד מעניין, עוקב...

ufffnick · שליחה 09/09/2019 9:14

@dudib
·
אלה 33 דקות של בולשיט שאיבדתי מהחיים סתם.
אשכרה צפיתי בתקווה שייגעו בנזקים האמיתיים של ה"AI" שכבר חווים אותם בשני העשורים האחרונים, אבל המניפסט הניואייג'י עמוס בשטויות שמנותקות מהמציאות הסבירו עצמן כשהבנתי מי הדמות המובילה של הסרטון.

כדי להגיע לסינגולריטי, אם בכלל, צריך לשבור מעגל "קסם" שהוא די טריוויאלי -
שהמכונה תדע ללמוד בעצמה, לאבחן בין תפל ועיקר במידע, בעצמה, להסתגל לשינויים סינגולריים גדולים במציאות כלומר להגיב למצב שלא נתקלה בו מעולם ותוך כדי הנתהלות בסיטואציה לבצע מהלך אמידה ולמידה (דבר שאנחנו עושים על בסיס יומיומי מבלי לשים לב) ומעל לכל זה - מערכת ששולטת ומנתבת מקבילית את ההתמודדות עם כל המרכיבים של התפיסה (ואני לא מתחיל להיכנס לאיך בכלל בונים מכונה שבאה עם התכונות הבסיסיות שלה להתמודדות עם המציאות - מה שאצל בעלי החיים נקרא תוכנות מולדות).
רמז - אין מכונה כזו וגם לא תהיה בעתיד הנראה לעין. למה? אתן תשובה הכי סתומה לזה - כי נדרש מליארדי שנים של אבולוציה כדי להביא את המחשבים הכי חזקים על כדוה"א (בדמות בע"ח) המותאמים לסביבה שלהם בצורה אידיאלית בכדי לשרוד ולתפק, תוך יכולת פנומנלית (ועיקרית) לפתור סיטואציות שלא נתקלו בהם בעבר.
היום, וגם בעוד כמה עשורים (כי אין מיקוד מסביב לזה) מכונה מסוגלת ללמוד את מה שמלמדים אותה, מסוגלת לייצר תהליך למידה בתחום מציאות שלא משתנה מחוץ למרחב שהוגדר לה. כדי שמכונה תתמודד עם מצב שהיא לא למדה איתו, נדרש להקפיץ את האלגוריתמיקה שנות אור קדימה ועוד יותר את כוח המיחשוב. זה ממש מד"ב.

כיום, אפשר לייצר מכונה לומדת שתטפל בבעיה ספציפית מאוד - לשחק שחמט זו המורכבות הכי גבוהה שהגיעו אליה, וגם שם מחשב העל הטוב בעולם מצליח להשתוות לאדם, קשה לבוא ולומר בודאות שמתעלה עליו.
סתם כדי לסבר את האוזן -
כדי לאמן רשת נוירונים לזיהוי חפצים בתמונה נדרש אימון של מספר שבועות על array של GPUs.
התוצאה היא שאותה רשת נוירונים יכולה לזהות בהסתברויות משתנות (בהתאם לתמונה) את העצמים שבתמונה.
כלומר היא יודעת להוציא וקטור ספרסי שמורכב מהמון אפסים ומספר אחדים, שמייצג עבורה עצם כלשהו, כי ככה המתכנת קבע שהוא ייוצג. המכונה לא מבינה מה הוא העצם, ובטח שלא לשייך אותו לקבוצות שיוך.
אבל בזה העניין מסתכם.
אתם יודעים כמה זמן לוקח לילד ללמוד זאת + להבין משמעות + לשייך לקבוצות שיוך? ימים שכלל הלמידה במצטברת היא בין דקות לשעות. יתרה מכך ילד נדרש למספר תמונות בודדות כדי להשליך הלאה לצורות גוונים וגדלים שונים של כלבים שלא נראים בתמונות, מכונה הרבה פחות יעלה בזה, וכדי שתתחיל להשליך, היא צריכה כמה מליונים של תמונות בלמידה. זה ההבדל בין הבנת המשמעות של העצם בתמונה (כוס, כלי קיבול, שותים עם זה) לבין זיהוי גראפי של עצם בתמונה.

כל הקישקוש הזה על מודעות של מכונה פשוט מנותק מהמציאות האלגוריתמית, וכמו בימי הביניים, כשמשהו קשה להסביר להמונים, הדמיון מפליג רחוק מידי.

רוצים לדבר על הנזקים של מכונה לומדת?

תקראו על המונחים echo chambers ועל conformation bias - שניהם נוגעים בנטיה שלנו לחפש אישור חיצוני לדעות שלנו, שנקבל מהאנשים שמקיפים אותנו, שהם לרוב בעלי דעות דומות לשלנו, ועל כן נמצא את עצמנו מרוצים עד השמיים מהדעות ההולכות ומקצינות שיוצרות שבטיות שהחיכוך בין השבטים רק הולך ועולה כי כל שבט חי בעולם באישור הפנימי שלו לדעותיו.
איך קשור למכונה? היא תמיד תמליץ על אנשים בעלי תכונות דומות ותחומי עניין דומים ו... דעות דומות לנו ולאנשים בחוג שלנו. והרי לכן שבט הומוגני שמזין עצמו בדיעותיו, מאשר אותן בשיח שמקצין עצמו ומרחיק משמעותית משבט אחר השונה ממנו. מה נראה לכם שיקרה באינטראקציה בין שני אנשים משבטים שונים...?

וכן תעיינו במושג filter bubble - שזהו המצב בו הפיד של המידע שאנחנו ניזונים ממנו מגיע ממקורות של מידע שנוח לנו לקבל אותם. מכאן שיש המון מידע שמסונן החוצה, שיכל להיות בעל ערך גבוה בין אם באופן אישי ובין אם לשיח חברתי, שנגרע מאותו צרכן מידע. כי המכונה למדה שמקורות וסוג מסויים של מידע פשוט לסנן החוצה, ללא קשר למשמעות שהמידע הזה מחזיק.
והופ - עכשיו פתאום אפשר להבין איך בעצם הפייק-ניוז עשה ועושה עבודה מעולה בהגדלת הבורות וחיזוק אמונות שמאושררות ע"י אותם שבטים וירטואליים.

שליחה 09/09/2019 10:21

oferlaor כתב:@molvy
·יש הרבה מאוד מערכות ממוחשבות שמנסות לחזות תהליכים, לעקוב אחרי חדשות ולתרגם את זה לצעדים בבורסה או שוק המטבעות. כל תנועה מחמירה את המצב ולכן קל מאוד לראות באג או שטות רנדומלית שמישהו אמר בעיתון מוביל שגורם לקריסה כלכלית של מטבע, מניה או אפילו בורסה שלמה.
...

·מה שניסיתי לומר זה שהמחשבים הם שיזמו את הפיחות בלירה שטרלינג ללא התערבות של בני אדם

האנליסטים לא מבינים מה גרם למחשבים ליזום את הפיחות ומניחים שזה מה שמקרון אמר

רציתי להראות שכבר היום יש מהלכים מובילים בעולם העסקים שנשלטים על ידי מחשבים ולמידה עצמית של מחשבים

בגדול זה ניקרא AI כך לפחות אני מפרש את המושג AI

שליחה 09/09/2019 10:49

@molvy
·זה הבעיה עם AI, בגלל שזה לא אלגוריתם של IF THIS THEN THAT, אלא משהו מאוד fuzzy שמזהה patterns אי אפשר באמת להבין למה AI מחליט משהו כי יש הרבה שכבות להחלטה הזו. זה די דומה למדוע מישהו עושה פעולה כלשהי, אפשר לגבות את זה בהגיון אבל האדם לא הולך ועושה אלגוריתם החלטה הגיוני אלא פועל מרגשות ומנסיון ולפעמים בגלל מה שהוא אכל היום בבוקר או איך שהוא ישן בלילה...

ככל שרכיב ה-AI יגבר בתעשיה, כך נבין פחות מדוע דברים פועלים כמו שהם פועלים.

ufffnick · שליחה 09/09/2019 12:04

@oferlaor
·
אני לא כל כך מסכים עם הקביעה הזו, והיא מבטאת את הפערי הבנה שיש גם בשוק העבודה בתחום.
מתכנתים רגילים לקוד שיש לו משמעות חד-חד ערכית (אם אז, כל עוד א' קורה אז ב', וכו').
עולם המכונה הלומדת הכניס רכיב סטטיסטי למערכת השיקולים, שמושפע מאוד ממבנה המידע שמשמש ללמידה, לפעמים יותר מהאלגוריתם שנעשה בו השימוש, ובחירת האלגוריתם נגזרת מסוג, צורה, ועיבוד המידע בטרם הכניסה אל האלגוריתם.
נכון, זה הרבה יותר מורכב להבין את מערכת ההחלטות של מכונה, אבל כל המידע שם ואפשר להבין אותו.
זו האחת המשמעויות המרכזיות של להיות data scientist.
בחלק גדול מהמקרים אכן מתייחסים לאלגוריתמים האלה כקופסא שחורה (כי נוח), אבל בסופו של יום מה שמתחבא מאחוריהם זו סטטיסטיקה ואלגברה לינארית.

אני יכול להמליץ על כמה קורסים ברשת לזה, ומי שמעדיף משהו פרונטלי (במיוחד למתכנתים) יש את הקורס אחה"צ של הטכניון בשרונה, הוא קצת רדוד כי מכסה קשת ענקית של גישות, אבל נותן את כל הבסיס להמשיך ללמוד בעצמך (סיימתי את המחזור השני שלהם).