اولین کسانی که قربانی خودرو‌های ایلان ماسک شدند

کانال فارس نیوز در تلگرام نوشت: مارس ۲۰۱۸، تمپه، آریزونا. ساعت از ۱۰ شب گذشته بود و خیابان‌های خلوت با نور چراغ‌های خیابان خط کشیده شده بودند. در یکی از همین خیابان‌ها «ایلین هِرزبرگ»، زنی ۴۹ ساله، راهش را می‌پیمود و دوچرخه‌اش را هل می‌داد؛ کیسه‌های خرید روی دوچرخه آویزان بود. هیچ‌کس نمی‌دانست این آخرین عبور او خواهد بود. خودروی آزمایشی اوبر که در حالت تمام‌خودران حرکت می‌کرد، با سرعت حدود ۶۵ کیلومتر در ساعت به او برخورد کرد. سیستم هوش مصنوعی خودرو در آن لحظه نتوانست حضور هِرزبرگ را شناسایی کند، الگوریتم او را به عنوان «شیء ناشناس» و سپس «دوچرخه» دسته‌بندی کرد و هیچ ترمزی برای جلوگیری از برخورد انجام نداد. راننده حفاظتی داخل خودرو هم در همان لحظه مشغول نگاه به تلفن همراه خود بود. این تازه آغاز ماجراست!
در پی آن حادثه، رئیس پلیس تمپه، سیلویا مویر در مصاحبه‌ای با سانفرانسیسکو کرونیکل گفت به صورت مقدماتی «ظاهراً این تصادف اجتناب‌ناپذیر به نظر می‌رسد» و اشاره کرد او (پلیس) شرایط را بر اساس فیلم کابین خودرو بررسی کرده، اما همین اظهارنظر اولیه بعد‌ها از سوی ناظران به عنوان قضاوتی شتابزده خوانده شد و تحلیل‌های بعدی ضعف‌های فنی و نقش «راننده حفاظتی» داخل خودرو را پررنگ کردند. پرونده هِرزبرگ فقط یک رخداد تلخ نبود؛ نشانگر یک گسست عمیق میان تبلیغاتِ بی‌پروا درباره «خودرانِ کامل» و واقعیت فنی پیچیده در خیابان‌های واقعی بود و بعد، اوبر توافقی با خانواده برقرار کرد و پرونده‌ها تا حدی به صورت مالی حل‌وفصل شد؛ نشانه‌ای که در بسیاری از این پرونده‌ها مسئله اصلی یعنی عدالت عمومی و پاسخگویی شفاف به نفع توافق‌های خصوصی کنار گذاشته می‌شود. وکیل خانواده در بیانیه‌ای کوتاه اعلام کرد: «این ماجرا حل و فصل شده است.»
این جمله ساده، نشان‌دهنده پایان رسمی پرونده بود، اما همچنان پرسش‌های اخلاقی و قانونی باقی ماند: چه کسی مسئول بود؟ نرم‌افزار یا انسان؟ و چه تدابیری می‌توانست جلوی این تراژدی را بگیرد؟ کارشناسان هوش مصنوعی و حمل و نقل می‌گویند این حادثه، یک هشدار جدی به جامعه جهانی است. لورل میجر، مدیر فنی شرکت موشنال در این خصوص می‌گوید: «مردم فکر می‌کنند خودرو‌های خودران باید بسیار بهتر از رانندگان انسانی باشند، زیرا وقتی تصادفی رخ می‌دهد و یک کامپیوتر در آن دخیل است، همدلی یا درک کمتری وجود دارد.» این انتظار عمومی، فشار بیشتری بر فناوری وارد می‌کند و هر خطای آن به شدت زیر ذره‌بین قرار می‌گیرد. این نقطه آغاز بحران اعتماد به فناوری خودران بود. رسانه‌ها، کارشناسان و فعالان حقوق مصرف‌کننده همگی بر این موضوع تاکید کردند که خودرو‌های خودران هنوز نمی‌توانند به طور کامل پیچیدگی و غیرقابل پیش‌بینی بودن جاده‌های واقعی را مدیریت کنند. در همان روز‌ها تحلیلگران هشدار دادند شرکت‌های فناوری نباید تنها به وعده‌های بازاریابی و تبلیغاتی متکی باشند، بلکه باید شفافیت کامل در عملکرد و محدودیت‌های سیستم ارائه کنند.
 وقتی اتوپایلوت قاتل می‌شود
چند سال پیش از هِرزبرگ، در می ۲۰۱۶، تصادف جانسوز دیگری رخ داد که ماهیت تهدیدآمیز این فناوری را برملا کرد. «جاشوا براون»، افسر سابق نیروی دریایی امریکا، پشت فرمان تسلا مدل اس (S) نشسته و حالت خلبان خودکار را فعال کرده بود. براون که ۴۰ ساله بود، از فناوری جدید برای کاهش خستگی رانندگی استفاده می‌کرد و به قول خودش «به تکنولوژی اعتماد داشت.» ناگهان، خودرو در بزرگراه فلوریدا به سمت یک تریلر ۵۳ فوتی سفید که جلوی آن پیچیده بود، رفت. سیستم سنسور و الگوریتم تسلا قادر به تشخیص تریلر در پس‌زمینه آسمان نبود؛ ترمز به موقع اعمال نشد و براون در همان لحظه جان خود را از دست داد. گزارش اداره ملی ایمنی حمل و نقل (NTSB) تصریح کرد «راننده توجه کافی نداشته و سیستم اتوپایلوت در شرایط روشنایی بالا محدودیت داشته است»، اما خانواده براون دیدگاه متفاوتی داشتند. مادر او، کاترین براون در مصاحبه با گاردین گفت: «پسرم به خودرو اعتماد داشت. او باور داشت این فناوری برای حفظ امنیتش در آنجاست و این فناوری او را ناکام گذاشت.» این جمله کوتاه عمق درد و بی‌اعتمادی خانواده به وعده‌های شرکت تسلا را آشکار می‌کرد. تسلا در پاسخ به این حادثه اعلام کرد «اتوپایلوت یک سیستم کمکی است و جایگزین راننده نمی‌شود»، اما این توضیح برای بسیاری از کاربران کافی نبود، بسیاری از رانندگان به ویژه کسانی که به تبلیغات «خودران کامل» و اصطلاحاتی مثل «فول سلف درایوینگ» اعتماد کرده بودند، تصور می‌کردند خودرو قادر به مدیریت کامل رانندگی است. این اختلاف میان بازاریابی و واقعیت فنی باعث ایجاد حس امنیت کاذب شد و به گفته کارشناسان، عامل اصلی برخی حوادث بعدی بوده است.
اینجا خلأ قانونی وجود دارد که کارشناسان از آن به عنوان «منطقه خاکستری مسئولیت» یاد می‌کنند. ما به ماشین‌ها اجازه داده‌ایم در خیابان‌ها حرکت کنند، اما هنوز نمی‌دانیم در لحظه مرگ، چه کسی قاتل است. این یک حفره خطرناک در سیستم حقوقی و اخلاقی ماست که هر بار با وقوع یک حادثه بزرگ‌تر می‌شود.