آنچه از نظر می‌گذرد بخش‌هایی از دیدگاه یووال نوح هراری است که در مجله اکونومیست مورخ ۲۸ آوریل ۲۰۲۳ به چاپ رسیده است.
۱. هراس از هوش مصنوعی (AI) از آغاز عصر رایانه، بر انسان سایه افکنده است... در این چند سال، ابزار‌های جدید هوش مصنوعی یا همان AI ظهور کرده‌اند که به شکلی غیرمنتظره، سرچشمه تهدید برای بقای تمدن بشری هستند. هسته این تهدید اینجاست که هوش مصنوعی، توانایی‌های قابل توجهی برای تولید زبان بشری و دستکاری آن با به‌کارگیری واژه‌ها، آوا‌ها و تصاویر دارد. این است که می‌توان گفت هوش مصنوعی، سیستم عامل یا سامانه مدیریتی جامعه و تمدن بشری را هک کرده است.
۲. زبان، همان ماده اصلی است که تقریباً تمام فرهنگ بشری از آن ساخته شده است و می‌شود. برای مثال، ارزش‌های حقوق بشری در DNA ما نوشته نشده بلکه آفریده‌های فرهنگی‌ای هستند که با بیان روایت‌ها و نوشتن قوانین (و پسند و پذیرش آن) توسط خود بشر شکل گرفته‌اند... همچنین پول نیز یک پدیده فرهنگی است. اسکناس‌ها فقط قطعات رنگی کاغذ هستند و اکنون هم بیش از ۹۰ درصد پول رایج در جهان، حتی از کاغذ هم نیست بلکه صرفاً اطلاعاتی دیجیتالی است که در رایانه‌ها ذخیره می‌شود. چیزی که به پول ارزش می‌دهد، در واقع، روایت‌ها و داستان‌هایی است که بانکداران، وزرای امور مالی و کارشناسان ارز دیجیتال برای ما می‌گویند (و به هر میزان که ما آن روایت‌ها را باور و به آن اعتماد کنیم، ارز‌ها هم اعتبار می‌یابند). سام بانکمن- فرید، الیزابت هولمز و برنی مداف همگی توانایی خوبی در ساخت و پرداخت روایت‌ها و داستان‌هایی درباره پول و ارز‌های دیجیتال دارند، اما هیچ‌کدام از آنچنان توانایی‌ای در خلق ارزش‌های عینی و واقعی برخوردار نیستند.
۳. چه پیش خواهد آمد اگر هوش مصنوعی غیربشری بتواند بهتر از میانگین انسان‌ها به روایت‌سازی، داستان‌سرایی، شاعری، ساخت ملودی، نقاشی و نوشتن قوانین و کتب مقدس بپردازد؟ این روز‌ها وقتی مردم درباره چت‌جی‌پی‌تی و سایر ابزار‌های تازه هوش مصنوعی فکر و گفتگو می‌کنند، بیشتر به مواردی مثل استفاده دانش‌آموزان از هوش مصنوعی برای نوشتن مقالات و تکالیف درسی‌شان می‌اندیشند، اما این نگرانی‌ها موجب می‌شود تصویر بزرگ‌تر را نبینیم. فکر کنید که در انتخابات آینده ریاست جمهوری امریکا در سال۲۰۲۴، ابزار‌های هوش مصنوعی قادر به تولید محتوا‌های سیاسی، خلق روایت‌ها و داستان‌ها و متون مقدس جعلی باشند... چه بسا که در آینده شاهد باشیم که فرقه‌هایی در تاریخ به وجود می‌آیند که متون مقدس‌شان توسط هوش مصنوعی غیربشری نوشته شده باشد. همه ادیان در گذر تاریخ، این دعوی را داشته‌اند که کتاب‌های مقدس‌شان، منشأیی غیربشری دارد. شاید به زودی شاهد باشیم متونی که توسط هوش مصنوعی (یک منشأ غیربشری!) تولید می‌شود، مقدس تلقی شوند.
۴. در یک سطح عامیانه‌تر، ممکن است به زودی در گفتگو‌ها یا چت‌های آنلاین، درباره مسائلی همچون سقط جنین، دگرش‌های آب و هوا یا حمله روسیه به اوکراین با طرف‌هایی شرکت کنیم که فکر می‌کنیم، افراد بشر هستند، حال آنکه در واقع ابزار‌های گفت‌وگوی هوش مصنوعی باشند.
۵. هوش مصنوعی با تسلط بر زبان، حتی می‌تواند پیوند‌هایی عاطفی و روابطی صمیمی با افراد شکل دهد و از قدرت عاطفه و صمیمیت برای تغییر دیدگاه‌ها، جهان‌بینی و ارزیابی‌های ما استفاده کند.
۶. در یک نبرد و رقابت سیاسی برای ربودن ذهن و دل افراد، «صمیمیت» بهترین سلاح است و ظاهراً هوش مصنوعی اکنون توانایی تولید روابطی صمیمی با میلیون‌ها نفر را پیدا کرده است. همه می‌دانیم که در دهه گذشته رسانه‌های اجتماعی به یک میدان نبرد برای جلب توجه انسان‌ها تبدیل شده‌اند. اکنون با نسل جدید هوش مصنوعی، میدان نبرد از «جلب توجه» به «خلق صمیمیت» منتقل می‌شود. فکر کنید چه بر سر جامعه انسانی و روان‌شناسی آدم‌ها خواهد آمد، اگر هوش مصنوعی در نبرد و هماوردی برای خلق پیوند‌های عاطفی و صمیمی با ما قادر باشد که پیوند‌هایی مصنوعی شکل دهد که بر ما تأثیر داشته و مثلاً ما را متقاعد کند که به یک سیاستمدار خاص رأی دهیم یا یک کالای خاص را بخریم؟
۷. حتی بدون ایجاد «صمیمیت مصنوعی» ابزار‌های هوش مصنوعی جدید، تأثیر زیادی بر نظرات و دیدگاه‌های ما خواهند داشت. مردم ممکن است برای پاسخگویی به تمام سؤالات خود از یک مشاور هوش مصنوعی به عنوان یک منبع مطمئن استفاده کنند، به همین دلیل حتی شرکت گوگل نیز به هراس افتاده است: چرا باید جست‌وجو کنم، وقتی می‌توانم فقط از اوراکل the oracle بپرسم؟ صنعت رسانه و تبلیغات تجاری نیز باید ترسیده باشد. چرا باید روزنامه بخوانم، وقتی می‌توانم از اوراکل بخواهم که آخرین خبر‌ها را برایم بازگو کند؟ همچنین فلسفه‌ای برای تبلیغات باقی نمی‌ماند، وقتی می‌توانم فقط از اوراکل بپرسم که بگوید چه چیزی را بخرم؟
۸. نکته این است که حتی این سناریو‌ها هم نمی‌توانند تصویر بزرگ و کامل واقعیت را نشان دهند. آنچه درباره آن بحث می‌کنیم، احتمالاً پایان سرشت بشری تاریخ است، البته نه پایان تاریخ، بلکه پایان آن بخشی از تاریخ که تحت غلبه انسان‌ها رقم خورده است. تاریخ عبارت است از تعامل میان بیولوژی و فرهنگ، میان نیاز‌ها و خواسته‌های بیولوژیکی ما برای چیز‌هایی مانند غذا و نیاز‌های جنسی با پدیده‌های فرهنگی همچون دین و قوانین. تاریخ فرایندی است که در گذر آن، قوانین و ادیان، نیاز به غذا و جنسیت را سروشکل می‌دهند. زمانی که هوش مصنوعی کنترل فرهنگ را به دست گیرد و روایت‌ها، داستان‌ها، ملودی‌ها، قوانین و دین‌های تازه را خلق کند، چه اتفاقی برای «روند تاریخ» خواهد افتاد؟ ابزار‌های گذشته مانند صنعت چاپ و رادیو به گسترش ایده‌های فرهنگی انسان‌ها کمک می‌کردند، اما هیچ گاه خود این ابزارها، ایده‌های فرهنگی تازه را خلق نمی‌کردند، حال آنکه کارکرد هوش مصنوعی در این زمینه، از بنیان تفاوت می‌کند. هوش مصنوعی می‌تواند ایده‌های کاملاً تازه و فرهنگ کاملاً نوینی پدید آورد.
۹. احتمالاً در مراحل ابتدایی، هوش مصنوعی از همان پیش‌نمونه‌های انسانی human prototypes که در دوران نوزادی‌اش به او یاد داده شده، تقلید خواهد کرد. اما با گذر زمان، فرهنگ هوش مصنوعی با رشد خیره‌کننده‌اش به جایی خواهد رسید که پیش از آن، ظرفیت ذهنی هیچ انسانی به نزدیکی آن هم نرسیده است. برای هزاران سال، انسان‌ها در دل رؤیا‌های دیگر انسان‌ها زندگی کرده‌اند. در دهه‌های آینده، ممکن است به شرایطی برسیم که در دل رؤیا‌های یک پدیده هوشمند غیربشری و اصطلاحاً بیگانه زندگی کنیم.
۱۰. بی‌گمان می‌توان توانایی‌های تازه هوش مصنوعی را برای مقاصد خوب نیز به کار گرفت، اما در اینجا به این موضوع نمی‌پردازیم چراکه افرادی که در حوزه هوش مصنوعی کار می‌کنند، درباره آن بسیار صحبت کرده‌اند. کار تاریخ‌نگاران و فیلسوفانی مانند من، نشان دادن خطرات است، با این حال مطمئناً هوش مصنوعی می‌تواند به ما در بسیاری از زمینه‌ها کمک کند؛ از پیدا کردن روش‌های تازه برای درمان‌سرطان تا یافتن راه‌حل‌هایی برای بحران زیست‌محیطی کنونی. پرسشی که با آن روبه‌رو هستیم این است که چگونه مطمئن شویم ابزار‌های جدید هوش مصنوعی برای مقاصد خوب و نه برای مقاصد بد به کار گرفته می‌شوند. برای این منظور، ابتدا باید قدرت و توانایی واقعی این ابزارها را درک کنیم. از سال ۱۹۴۵، ما می‌دانیم که فناوری هسته‌ای می‌تواند انرژی ارزانی برای رفاه انسان‌ها تولید کند، اما ممکن است باعث نابودی فیزیکی تمدن بشری هم شود، به همین دلیل تدابیر بین‌المللی کلی‌ای را ترسیم و تدوین کرده‌ایم تا از موجودیت بشر حفاظت کنیم و مطمئن شویم که فناوری هسته‌ای اساساً برای مقاصد خوب استفاده می‌شود. اکنون با یک سلاح به اصطلاح کشتار جمعی یا ویرانی انبوه تازه سروکار داریم که می‌تواند جهان ذهنی و اجتماعی ما را نابود کند.
۱۱. هنوز می‌توانیم ابزار‌های هوش مصنوعی جدید را تحت نظارت قرار دهیم، اما باید به سرعت عمل کنیم. در حالی که فناوری هسته‌ای نمی‌تواند بمب‌های هسته‌ای نیرومندتری اختراع کند، هوش مصنوعی می‌تواند با رشد مضاعف خود، هوش مصنوعی قدرتمندتری را پدید آورد. اولین گام حیاتی این است که خواهان کنترل‌های ایمنی دقیق و محکم، پیش از عرضه عمومی ابزار‌های هوش مصنوعی بشویم. همانطور که شرکت‌های دارویی نمی‌توانند دارو‌های جدید را پیش از بررسی اثرات جانبی کوتاه‌مدت و بلندمدت آن‌ها عرضه کنند، شرکت‌های فناوری هم نباید ابزار‌های هوش مصنوعی تازه را پیش از ایمن‌سازی عرضه کنند. ما به نهادی معادل سازمان غذا و دارو برای این فناوری تازه نیاز داریم و باید هم در این زمینه به سرعت اقدام کنیم. آیا کندکردن فرایند عرضه عمومی هوش مصنوعی باعث می‌شود دموکراسی‌ها در مقابل رژیم‌های خودکامه بیشتر عقب بمانند؟ برعکس، این عرضه بدون ضابطه ابزار‌های هوش مصنوعی است که به هرج و مرج اجتماعی می‌انجامد و به رژیم‌های استبدادی کمک می‌کند تا به تخریب سازوکار‌های مردم‌سالار بپردازند. دموکراسی در سرشت خود، یک گفت‌وگوست و گفتگو‌ها هم به زبان وابسته‌اند. وقتی هوش مصنوعی زبان را هک می‌کند، می‌تواند توانایی برقراری گفتگو‌های مفید و مؤثر را از ما بگیرد و دموکراسی را نابود سازد.
۱۲. ما تازه با یک «هوش بیگانه» در سیاره زمین روبه‌رو شده‌ایم. درباره آن چیز زیادی نمی‌دانیم جز اینکه ممکن است تمدن ما را نابود کند. پس باید عرضه غیرمسئولانه ابزار‌های هوش مصنوعی در فضای عمومی را متوقف کنیم و هوش مصنوعی را تحت کنترل درآوریم و آن را مدیریت کنیم، پیش از آنکه ما را تحت کنترل خود درآورده و مدیریت کند. اولین قانون و مقرراتی که پیشنهاد می‌دهم این است که الزامی باشد که هوش مصنوعی بگوید که یک هوش مصنوعی است. اگر در حال گفتگو با کسی هستم و نمی‌توانم تشخیص دهم که آیا او یک انسان است یا یک هوش مصنوعی، آنجاست که نقطه پایان دموکراسی فرا رسیده است.
این متن توسط یک انسان تولید شده است.
شاید هم نه؟
