מהי ייחודיות טכנולוגיה

2024 מְחַבֵּר: Malcolm Clapton | [email protected]. שונה לאחרונה: 2023-12-17 03:56

העתיד קרוב יותר ממה שהוא נראה.

מהי ייחודיות טכנולוגיה

ייחוד טכנולוגי הוא רגע תיאורטי שבו אדם מאבד שליטה על הקידמה הטכנולוגית, וזה, בתורו, הופך לבלתי הפיך. במילים פשוטות, בעתיד הקרוב, טכנולוגיות עשויות להתפתח עד כדי כך שהאנושות פשוט תחדל לעמוד בקצב שלהן ולהבין אותן.

יצירת בינה-על מלאכותית כדרך להשיג את הייחודיות נחשבת לרוב, אך זו אינה הדרך היחידה האפשרית. כך למשל, בעתיד הקרוב צפויות להופיע מכונות (מחשבים, רובוטים) שיוכלו לעשות הכל טוב יותר מבני אדם, ובשל כך תתרחש קפיצה טכנולוגית חדה דמוית מפולת שלגים.

עם זאת, לרוב ניחושים כאלה נבנו על ידי Tegmark M. Life 3.0. להיות אנושי בעידן הבינה המלאכותית. - מ', 2019 לא על תחזיות מדעיות, אלא על מיתוסים בתחום הבינה המלאכותית.

יתרה מכך, כפי שמאמינים תומכי מושג הסינגולריות הטכנולוגית, "התפוצצויות אינטלקטואליות" כאלה יתרחשו לעתים קרובות יותר ויותר. זה יכול להוביל לשינויים קיצוניים בחברה שאיננו יכולים לחזות או לשלוט בהם.

ההשלכות של הייחודיות הן שגורמות לפחדים רבים ומשמשות בסיס לדיונים על עתיד האנושות. ההשלכות הללו מוערכות בדרכים שונות. ריימונד קורצווייל, עתידן לזיהוי דיבור ודמות מפתח בגוגל, מאמין שההתקדמות בטכנולוגיה היא הזדמנות מצוינת עבור אנשים להפוך לאנשים טובים יותר. פחות אופטימיים בהערכות שלהם הם אילון מאסק, ביל גייטס וסטיבן הוקינג המנוח. לדעתם, הקידמה יכולה להוביל להשמדת האנושות.

מהם התנאים המוקדמים לייחודיות טכנולוגית

החששות מההשלכות של הקידמה הטכנולוגית לא הופיעו משום מקום. תהליכים רבים בחברה ובמדע המודרניים מעוררים הרהורים כאלה.

האצת התקדמות טכנית וטכנולוגית

העידן הדיגיטלי החל עם המצאת הטרנזיסטור בשנת 1947 ונמשך עד היום. עוד ב-1965, אחד ממייסדי אינטל, שהתכונן לדבר, גילה דפוס מעניין: מדי שנתיים מספר הטרנזיסטורים במעגלים מיקרו מוכפל.

מאז, מעט השתנה: מחשוב המחשב מראה צמיחה אקספוננציאלית מתמדת. ככל שהטכנולוגיה מתקדמת יותר, כך העקומה הממחישה את ההתקדמות הטכנולוגית נעשית תלולה יותר. בתוך כמה עשורים, הקצב שלו יכול להגיע לאינסוף.

לפי Harvey C. Big Data Challenges. נתונים דיגיטליים על ידי Datamation, עוד בשנת 2017, נתונים דיגיטליים עלו על היכולת שלנו לנהל אותם. יתרה מכך, זה מכפיל את עצמו כל שנתיים.

אחד השלבים הבאים בפיתוח הטכנולוגיה, כנראה, יכול להיות המצאת AGI (בינה כללית מלאכותית). מונח זה מתייחס לבינה מלאכותית שלומדת לתקשר, לחשוב ולהתנהג כמו אדם או אפילו טוב יותר. כלומר, AGI, בתיאוריה, יכולה להחליף אנשים בכל דבר.

פיתוח בינה מלאכותית

עד כה, מחשבים לא יכולים לעשות הכל טוב מאיתנו, למרות שבפתרון בעיות רבות הם כבר הרבה יותר חכמים מאדם (או לפחות מהירים ממנו).

אפילו לפני 4-5 שנים, תחזית הייחודיות של ריי קורצווייל תתרחש עד 2045. העתידנות של ריימונד קורצווייל שעד 2045 הבינה המלאכותית תתעלה בכל דבר על האינטליגנציה האנושית נחשבה נועזת מאוד (למרות העובדה שמאז שנות ה-90, ל-86% מההנחות שלו יש להתגשם).

כיום, התקופה שבין 2025 ל-2035, או אפילו קודם לכן, כבר נקראת כתאריך היפותטי להופעתה של AGI.

Pandaya J. The Troubling Trajectory of Technological Singularity יכול למלא תפקיד מיוחד בכך. פורבס ישחק בבניית שבבים נוירומורפיים - מעבדים לרשתות עצביות המשכפלים את האופן שבו המוח שלנו מעבד מידע.עד כה, המחקר בתחום הזה עדיין רחוק מלהשיג מודל עובד באמת, אבל יש כבר הצלחות ללא ספק. הנה מה שבינה מלאכותית יכולה לעשות היום:

• לִלמוֹד;
• לנצח אנשים במשחקי אסטרטגיה (תוכנית AlphaGo ב-2015, תוך 9 שעות אימון בלבד, זכתה ל-DeepMind ו-Google: הקרב על השליטה בבינה מלאכותית. האקונומיסט את היכולת לשחק שח טוב יותר מאדם);
• עזרה לשלד חיצוני בשליטה מוחית מאפשר לחולה משותק ללכת. אנשי המדען עם פציעות חוט השדרה חוזרים לעמוד על הרגליים;
• לזהות פרצופים;
• לנהוג במכונית;
• לצייר האם בינה מלאכותית עומדת להפוך למדיום הבא של האמנות? CHRISTIE'S וטקסטים קשורים;
• ליצור מערכת בינה מלאכותית שנוצרה ב-UNC - Chapel Hill מעצבת תרופות מאפס. UNC - CHAPEL HILL תרופות;
• להוביל את סוכנות הידיעות הממשלתית של סין Xinhua מציגה לראשונה 'עוגן AI' כדי לקרוא את החדשות. סיקור חדשותי של Mashable ועוד הרבה יותר.

ב-2014, גוגל רכשה את DeepMind ו-Google: הקרב על השליטה בבינה מלאכותית תמורת 600 מיליון דולר. The Economist של AlphaGo היא חברת DeepMind בריטית שמטרתה הייתה להמציא את AGI. הרעיונות של הבריטים עזרו לגוגל ליצור אלגוריתמים יעילים לאבחון מחלות עיניים ולגילוי מוקדם של מחלות פרקינסון ואלצהיימר.

סביר להניח שכדאי לחכות להופעתה של AGI בעתיד הנראה לעין. אולם תחילתה של הייחודיות הטכנולוגית אינה קשורה ישירות לכך.

הופעתם של ממשקים עצביים

כבר עכשיו אפשר לדבר על האינטרנט כצורה של "מוח גלובלי" - תופעה שבזכותה אנשים מכל העולם יכולים לתקשר זה עם זה כמעט ברציפות באמצעות מתווך טכני.

יש מכשירים שקרובים יותר לגאדג'טים מסרטי מדע בדיוני. כבר למעלה מ-300 אלף אנשים משתמשים עד כמה אנחנו קרובים לממשק המוח-מחשב של אילון מאסק? שתלי שבלול של CNN Health (תותבות שמיעה הפועלות ישירות על עצב השמיעה), ודגימות של עיניים ביוניות נבדקות בבני אדם. למרות שמכשירים אלו עדיין אינם מסוגלים לשחזר את הראייה או השמיעה לחלוטין, איכות עבודתם משתפרת.

גם אילון מאסק ובריאן ג'ונסון הכריזו עד כמה אנחנו קרובים לממשק המוח-מחשב של אילון מאסק? CNN Health על יצירת סטארטאפים לפיתוח ממשקי אדם-מחשב (Neuralink ו-Kernel). כמובן שמוקדם מדי לומר שבקרוב נוכל לשלוט בסמארטפון בכוח המחשבה: כל המכשירים האלה עדיין איטיים ולא מושלמים מדי. עם זאת, יש כל סיבה להאמין שההצלחה בתעשייה זו נמצאת ממש מעבר לפינה.

מהן הסיבות להתקדמות טכנית?

AI ורובוטים ייקחו על עצמם עבודה אינטלקטואלית ופיזית מורכבת

הפיתוח של בינה מלאכותית ורובוטיקה עשוי להביא בסופו של דבר לכך שמכונות ילמדו לעשות הכל בלי או עם התערבות אנושית מינימלית. במקרה זה, ההתקדמות תמשיך להאיץ, יותר ויותר לשפר את החיים והחיים של אנשים.

כבר עכשיו, מחשבים משמשים את בני האדם למחקר מדעי ולשיפור טכנולוגי. הודות לכך (למשל, מחקר גנטי או פיתוח מכשירים המשפרים את יכולות המוח האנושי), אנשים עצמם הופכים לחכמים יותר, והמכונות - מהר יותר. לפיכך, ההתפתחות של לא רק מחשבים, אלא גם של אדם מואצת.

אנשים יגלו יכולות חדשות בעצמם

המיזוג של אדם עם טכנולוגיה מתרחש לא רק במישור הפיזי (שימוש בתותבות, שינויים), אלא גם במישור האינפורמטיבי (השימוש בגאדג'טים). סמארטפון עם אינטרנט סלולרי בכיס הוא הצעד הראשון לקראת הפיכתו לסייבורג.

יש אפילו תנועת טרנס-הומניזם. בריטניקה, תומכת בשיפור אקטיבי של גוף האדם באמצעות התקדמות טכנולוגית. טרנס-הומניסטים מאמינים ששינוי הגוף הוא הדרך היחידה לעמוד בקצב הזמן ולא להעמיד את גורל האנושות לרשות המכונות.

עם זאת, עד כה הופעתם של ביורובוטים אנושיים עדיין בתחום הפנטזיה.

טכנולוגיות חדשות פותחות את הדרך לאלמוות פוטנציאלי

נראה שהסרת מגבלות ה-DNA היא פתרון הרבה יותר אלגנטי בתחום זה. גנטי וביו-הנדסה Pandaya J. The Troubling of Singularity Technological Trajectory. פורבס, כמו גם נוטרופיות, יכולות להפוך אנשים לחכמים יותר. בעזרת איברים שגדלו באופן מלאכותי או ננו-מכונות, אנשים יכולים להיפטר מההזדקנות ולהשיג אלמוות.

השאלות היחידות הן באיזו מהירות אדם ילמד (וילמד) להשתמש בהזדמנויות אלו, האם החברה והממשלה יאשרו אותן.יעברו שנים עד שבני אדם מהונדסים גנטית יוולדו ויתחנכו, גם אם יתעלמו מהגורמים החברתיים שמאטים את אימוץ טכנולוגיה כזו. צורות אחרות של אינטליגנציה על (AI) יכולות להופיע הרבה יותר מהר.

מה אומרים המתנגדים לפיתוח טכנולוגי בלתי מבוקר

בינה מלאכותית יכולה להרוס את האנושות

הפיתוח של AGI עשוי לעלות על התפתחות המוח האנושי והטכנולוגיה כדי להעצים אותנו. בינה מלאכותית מסוגלת להתעלות על זו האנושית ובתרחיש פסימי היא יכולה בקלות לצאת משליטה.

דוקטור אוניברסיטת אוקספורד ניק בוסטרום מחשיב את Bostrom N. Superintelligence: Paths, Dangers, Strategies. - הוצאת אוניברסיטת אוקספורד, 2014 שיש סיבה לדאגה. לדעתו, ככל שיהיה השכל מפותח, אין בכך כדי להשפיע האם מעשי בעליו יהיו רעים או טובים. לכן, לא משנה כמה ה-AI חכם, אנחנו לא חסינים מהעובדה שהוא יעשה משהו רע.

Tegmark M. Life 3.0 חשוב. להיות אנושי בעידן הבינה המלאכותית. - M., 2019, כדי ש-AGI תוכל להבין, לקבל את מטרות האנושות ולדבוק בהן. אם הוא יקבע לעצמו סדרי עדיפויות אחרים, כמו שימור עצמי, חטיפת משאבים או סיפוק סקרנות, אז ייווצרו קונפליקטים ביחסים בין אנשים ומכונות.

מודרניזציה של גוף האדם יכולה להוביל לריבוד נוסף של החברה

שינוי בגוף האדם יכול לא רק ליצור "Human 2.0", אלא גם להחמיר קונפליקטים חברתיים. לאלה שיש להם גישה לטכנולוגיות כאלה, ברור שתהיה עליונות על פני אלה שאין להם את היכולות הללו.

מתעוררות סוגיות אתיות ומשפטיות משמעותיות: האם ניתן לתת לאדם אחד יתרון אינטלקטואלי ו/או פיזי על פני אחר וכיצד להגן על "אנשים ביו-מכאניים" מפני האקרים.

ברגע שהטכנולוגיה נמצאת בידיים הלא נכונות, יכולה להיות נשק קטלני

אל תשכח שאדם בפני עצמו הוא סכנה גדולה. הצבא כבר משתמש ברחפנים ובמכונות הניתנות לתכנות ככלי נשק, והמדיה החברתית עמוסה בנוכלים. סביר מאוד שאנשים יתחילו להשתמש לרעה גם בטכנולוגיות חדשות.

אבל עוד לפני כן, אנחנו פשוט מסתכנים שלא לשרוד, שכן אפילו כלי נשק קיימים מסוכנים. מקס טגמרק, אסטרופיזיקאי ופרופסור במכון הטכנולוגי של מסצ'וסטס, חישב את Tegmark M. Life 3.0 באמצעות נוסחאות הסתברות סטטיסטיות. להיות אנושי בעידן הבינה המלאכותית. - מ', 2019 הסיכון של מלחמה גרעינית עולמית שתוביל להרס הדדי. הוא הגיע למסקנה שאם ההסתברות היא 0.001 בשנה אחת, אז במרווח של 10,000 שנים תתרחש קריסה גרעינית בהסתברות של 99.95%. אפילו מערכת בלימה מבוססת לנשק שנחקר היטב עלולה להיכשל. ונשאלת השאלה: האם נוכל לשלוט בטכנולוגיות מורכבות יותר כדי שלא יפלו לידיים הלא נכונות?

איזה עתיד יכול לחכות לנו

במקביל, Max Tegmark מעריך באופן ביקורתי את Tegmark M. Life 3.0. להיות אנושי בעידן הבינה המלאכותית. - מ', 2019 ההסתברות לתרחיש פסימי. הוא מאמין שהאפשרויות לשיפור עצמי מוגבלות על ידי חוקים פיזיקליים. ייחודיות אמיתית, כהתקדמות מואצת לאין שיעור, לפי טגמרק, היא בלתי אפשרית, אם כי תהליך זה מסוגל להתקרב לאינסוף.

לפיכך, הפרופסור טוען כי קפיצת המדרגה של הטכנולוגיה תגרור אחריה השגה מהירה של כל או כמעט כל שלמות הידע על העולם, ולא הצטברות אינסופית שלהם.

לפי נקודת מבט אחרת, שום דבר, כולל ההתקדמות, לא יכול להאיץ ללא הגבלת זמן - במוקדם או במאוחר היא תאט.

עם זאת, אנו יכולים לומר באופן אמין כי האנושות טרם עברה את נקודת ההאטה.

לא כל המדענים חולקים בדרך כלל את תיאוריית הסינגולריות הטכנולוגית. יש אנשים שמציינים שעד כה לא התגלו תופעות בטבע המתפתחות ללא הגבלה ובמהירות אינסופית.יחד עם זאת, החוקרים מפנים את תשומת הלב לכך שמספר לא מבוטל של תחזיות בתחום זה מבוססות לא על נתונים אובייקטיביים, אלא על רצונותיהם של המנבאים עצמם.

כך, למשל, AI יכול להישאר תועלתני גרידא ולא ניחן באישיות. אלגוריתמים של אותו DeepMind עדיין לא יכולים ל-DeepMind ו-Google: הקרב על השליטה בבינה מלאכותית. האקונומיסט מוצא פתרון אם משהו משתבש והתנאים שהוגדרו מראש משתנים.

עד כה, AI עוקפת אותנו רק על חשבון כוח המחשוב. אבל מה שאנשים יכולים לשלוט בכמה דקות, התוכנית מבלה אלפי שעות, בהשוואה לניסיון האנושי.

לדוגמה, כדי ש-AlphaGo ילמד לשחק ב-Space Invaders, היא צריכה לבצע אלפי ניסיונות. בסופו של דבר, התוכנית, כמובן, תשחק טוב יותר מאדם, אבל הוא ישלוט בתהליך הרבה יותר מהר.

לכן, אף אחת מהתחזיות לא יכולה להיחשב סביר ב-100%. אבל זו לא סיבה לנטוש לחלוטין את הרעיון של ייחוד טכנולוגי.

במידה רבה, יישום תרחישים מסוימים של גורל האנושות יהיה תלוי בכיוון ההתפתחות הטכנולוגית, בידי מי זה יהיה וכיצד הוא יוסדר. כמו כן, עד כמה הטכנולוגיה תהיה מתוחכמת ישחק תפקיד גדול. אל תשכח מגורמים חברתיים, גיאופוליטיים וכלכליים שיכולים להשפיע על ההתקדמות. קשה גם לדבר על התאריכים המדויקים של תחילתה של הסינגולריות הטכנולוגית.

האם אדם ימשיך להתקיים אם הוא לא נחוץ לסוגים רבים של פעילות (לדוגמה, מדע)? האם אדם שהשתנה על ידי התערבויות DNA או ממשקים עצביים יישאר אדם? אין לנו תשובות לשאלות הללו. אולי אדם כבר השתנה באופן בלתי הפיך עם הופעת המחשבים והטכנולוגיות הדיגיטליות.

אבל דבר אחד בטוח לחלוטין: התהליך האבולוציוני הוא טבעי ובלתי ניתן לעצירה. אנחנו לא יכולים להאט אותו. בסופו של דבר, אולי המכונות ילמדו אותנו לא להרוג או להשפיל אחד את השני ועלינו לסמוך עליהם?

לכן, כפי שמייעץ Tegmark M. Life 3.0. להיות אנושי בעידן הבינה המלאכותית. - M., 2019 Max Tegmark, תחשוב לא על העתיד שמפחיד אותך, אלא על זה שהיית רוצה.