جوان آنلاین: کانال تلگرامی دیده بان تحرکات کِریا در مطلبی با عنوان آزمایش‌های هوش مصنوعی اسرائیل در جنگ غزه نگرانی‌های اخلاقی را افزایش می‌دهد به گزارش نیویورک تایمز پرداخت:
در اواخر سال ۲۰۲۳، اسرائیل در پی ترور ابراهیم بیاری، یکی از فرماندهان ارشد حماس در شمال نوار غزه بود که در طراحی هفتم اکتبر نقش داشت. اما دستگاه اطلاعاتی اسرائیل نتوانست بیاری را که گمان می‌رفت در شبکه تونل‌های زیرزمینی غزه پنهان شده باشد، پیدا کند.
بنابراین، افسران اسرائیلی به فناوری جدیدی متکی شدند که با هوش مصنوعی تقویت شده بود؛ سه مقام اسرائیلی و آمریکایی مطلع از این ماجرا گفتند این فناوری حدود یک دهه پیش توسعه یافته بود، اما تاکنون در نبرد استفاده نشده بود. نیاز به یافتن بیاری، انگیزه‌ای تازه برای بهبود این ابزار ایجاد کرد؛ مهندسان در یگان ۸۲۰۰ اسرائیل - معادل آژانس امنیت ملی آمریکا - به‌سرعت هوش مصنوعی را با این فناوری ادغام کردند.
چندی بعد، اسرائیل به مکالمات بیاری گوش داد و ابزار صوتی مجهز به هوش مصنوعی را آزمایش کرد که توانست مکان تقریبی تماس‌های او را مشخص کند. بر پایه این اطلاعات، اسرائیل در ۳۱ اکتبر ۲۰۲۳ حملات هوایی علیه منطقه هدف انجام داد و بیاری را کشت. اما بر اساس گزارش «ایرورز»، سازمان نظارت بر درگیری‌های مستقر در لندن، در این حملات بیش از ۱۲۵ غیرنظامی نیز کشته شدند.
این ابزار صوتی تنها یکی از نمونه‌هایی بود که نشان می‌دهد اسرائیل چگونه از جنگ غزه برای آزمایش و به‌کارگیری سریع فناوری‌های نظامی مبتنی بر هوش مصنوعی در سطحی بی‌سابقه استفاده کرده است. به گفته ۹ مقام دفاعی آمریکایی و اسقاطیلی که به شرط ناشناس ماندن صحبت کردند، اسقاطیل در ۱۸ ماه گذشته هوش مصنوعی را با فناوری‌های دیگری همچون نرم‌افزار‌های تشخیص چهره برای شناسایی چهره‌های مخدوش یا آسیب‌دیده ترکیب کرده، از هوش مصنوعی برای شناسایی اهداف احتمالی حملات هوایی بهره گرفته، و مدل زبانی عربی ویژه‌ای برای تحلیل پیام‌های متنی، پست‌های شبکه‌های اجتماعی و دیگر داده‌های عربی ایجاد کرده است.
بسیاری از این پروژه‌ها حاصل همکاری بین سربازان یگان ۸۲۰۰ و نیرو‌های ذخیره‌ای بودند که در شرکت‌های فناوری همچون گوگل، مایکروسافت و متا کار می‌کنند. به گفته منابع مطلع، این گروه‌ها در مکانی به نام «استودیو» گردهم آمدند؛ یک مرکز نوآوری برای تطبیق تخصص‌ها با پروژه‌های هوش مصنوعی.
با این حال، به گفته مقامات اسرائیلی و آمریکایی، استفاده از این فناوری‌ها گاهی منجر به شناسایی‌های اشتباه، بازداشت‌های نادرست و مرگ غیرنظامیان شد. برخی مسئولان از پیامد‌های اخلاقی این ابزار‌ها ابراز نگرانی کرده‌اند؛ ابزار‌هایی که می‌توانند باعث افزایش نظارت و کشتار بیشتر غیرنظامیان شوند.
مقامات دفاعی اروپایی و آمریکایی گفتند هیچ کشوری به اندازه اسرائیل در آزمایش ابزار‌های هوش مصنوعی در میدان نبرد فعال نبوده و این وضعیت پیش‌نمایشی است از چگونگی استفاده از این فناوری‌ها در جنگ‌های آینده - و خطرات احتمالی آن.
حداس لوربر، رئیس مؤسسه تحقیقاتی کاربردی در هوش مصنوعی مسئولانه در مؤسسه فناوری حولون اسقاطیل و مدیر پیشین در شورای امنیت ملی اسرائیل گفت:
«نیاز فوری برای مقابله با بحران، نوآوری را در تسریع کرد و بخش زیادی از آن مبتنی بر هوش مصنوعی بود.»
او افزود: «این فناوری‌ها در میدان نبرد تغییر بازی ایجاد کردند و مزایای حیاتی در نبرد به همراه آوردند.»
با این حال لوربر هشدار داد که این فناوری‌ها پرسش‌های جدی اخلاقی ایجاد می‌کنند و نیاز به کنترل و توازن دارند؛ او تأکید کرد که تصمیمات نهایی باید همچنان به دست انسان گرفته شود.
سخنگوی ارتش اسرائیل گفت که به دلیل «ماهیت محرمانه» نمی‌تواند درباره فناوری‌های خاص اظهار نظر کند. او افزود که اسرائیل «متعهد به استفاده قانونی و مسئولانه از ابزار‌های فناورانه داده‌محور» است و تحقیقات درباره حمله به بیاری در جریان است.
متا و مایکروسافت از اظهارنظر خودداری کردند. گوگل گفت که «کارمندانی دارد که در کشور‌های مختلف به خدمت ذخیره می‌روند»، اما کار این کارمندان در نقش نظامی «به شرکت گوگل مربوط نمی‌شود».
اسرائیل پیش‌تر نیز درگیری‌های غزه و لبنان را برای آزمایش فناوری‌های نظامی مانند پهپادها، ابزار‌های هک تلفن و سامانه دفاعی گنبد آهنین استفاده کرده بود.
پس از حملات فرامرزی حماس در هفتم اکتبر ۲۰۲۳ که به کشته شدن بیش از ۱۲۰۰ نفر و اسارت ۲۵۰ نفر انجامید، فناوری‌های هوش مصنوعی به سرعت برای استفاده آزاد شد. همکاری میان یگان ۸۲۰۰ و نیرو‌های ذخیره در «استودیو» موجب توسعه سریع قابلیت‌های جدید هوش مصنوعی شد.
آوی حسون، مدیرعامل سازمان غیرانتفاعی Startup Nation Central گفت: نیرو‌های ذخیره از شرکت‌های متا، گوگل و مایکروسافت، نقش کلیدی در نوآوری در زمینه پهپادها و یکپارچه‌سازی داده‌ها داشتند.
او گفت: «نیرو‌های ذخیره دانش فنی و دسترسی به فناوری‌های کلیدی‌ای آوردند که پیش‌تر در ارتش موجود نبود.»
ارتش اسرائیل به سرعت از هوش مصنوعی برای بهبود ناوگان پهپادی خود استفاده کرد.
آویو شاپیرا، بنیانگذار و مدیرعامل شرکت XTEND، که با ارتش اسرائیل همکاری می‌کند، گفت الگوریتم‌های A.I. برای ساخت پهپاد‌هایی به کار گرفته شد که می‌توانستند اهداف را از راه دور شناسایی و تعقیب کنند.
او گفت: «در گذشته قابلیت قفل روی هدف به تصویری از هدف متکی بود. حالا هوش مصنوعی می‌تواند خود شیء - چه ماشین در حال حرکت باشد چه فرد - را با دقت مرگبار شناسایی و تعقیب کند.»
شاپیرا افزود که مشتریان اصلی او، ارتش اسرائیل و وزارت دفاع آمریکا، از پیامد‌های اخلاقی A.I. در جنگ آگاه بودند و درباره استفاده مسئولانه از این فناوری بحث می‌کردند.
یکی از ابزار‌های توسعه‌یافته در «استودیو»، یک مدل زبانی بزرگ (Large Language Model) به زبان عربی بود.
توسعه‌دهندگان قبلاً برای ساخت چنین مدلی مشکل داشتند، زیرا داده‌های آموزشی کافی به زبان عربی محاوره‌ای در دسترس نبود. بیشتر داده‌ها به عربی رسمی بود، درحالی‌که در واقعیت، گویش‌های متنوعی در جهان عرب وجود دارد.
اما ارتش اسرائیل چنین مشکلی نداشت؛ به گفته سه افسر، اسرائیل دهه‌ها مکالمات متنی، تماس‌های تلفنی ضبط شده و پست‌های شبکه‌های اجتماعی به لهجه‌های مختلف عربی را در اختیار داشت. بنابراین، در چند ماه نخست جنگ، مدل زبانی ساخته شد و یک چت‌بات برای اجرای جست‌و‌جو‌های عربی روی آن ایجاد گردید. این ابزار به پایگاه‌های داده چندرسانه‌ای متصل شد و امکان جستجوی پیچیده میان تصاویر و ویدیو‌ها را فراهم کرد.
هنگامی که اسرائیل در سپتامبر رهبر حزب‌الله، (شهید سید) حسن نصرالله، را ترور کرد، چت‌بات واکنش‌ها در جهان عرب را تحلیل کرد. این ابزار توانست میان لهجه‌های مختلف لبنان تمایز قائل شود و میزان فشار افکار عمومی برای حمله متقابل را بسنجد.
با این حال، چت‌بات گاهی در درک اصطلاحات مدرن یا واژگانی که از انگلیسی به عربی آوانویسی شده بودند دچار مشکل می‌شد. در این مواقع، افسران اطلاعاتی متخصص لهجه‌های مختلف باید نتایج را بازبینی و اصلاح می‌کردند.
دو افسر اطلاعاتی گفتند چت‌بات گاهی پاسخ‌های اشتباهی ارائه می‌داد؛ مثلاً به جای عکس سلاح، عکس لوله‌های آب بازمی‌گرداند. با وجود این، ابزار A.I. پژوهش و تحلیل را به طور چشمگیری تسریع کرده بود.
در ایست‌های بازرسی موقت میان شمال و جنوب نوار غزه، پس از حملات هفتم اکتبر، اسقاطیل دوربین‌هایی نصب کرد که می‌توانستند تصاویر با وضوح بالا از فلسطینیان ثبت کنند و آنها را به برنامه تشخیص چهره مبتنی بر A.I. بفرستند.
اما این سیستم نیز گاهی در شناسایی افراد با صورت‌های پوشیده شده دچار مشکل می‌شد و به بازداشت و بازجویی فلسطینیانی منجر می‌شد که اشتباهاً توسط سامانه شناسایی شده بودند.
