وقتی نرم‌افزاری که همه برای پذیرش آن مسابقه می‌دهند، آنقدر پرخطر می‌شود که هیچ‌کس نمی‌تواند آن را بیمه کند، چه اتفاقی می‌افتد؟ طبق گزارش فایننشال تایمز، ما در آستانه فهمیدن این موضوع هستیم.

بیمه‌گرهای بزرگ از جمله Great American، Chubb و W. R. Berkley از رگولاتورهای آمریکا درخواست کرده‌اند تا مجوز حذف مسئولیت‌های گسترده مرتبط با هوش مصنوعی از بیمه‌نامه‌های شرکتی را دریافت کنند. یک ارزیاب ریسک، خروجی مدل‌های هوش مصنوعی را در مصاحبه با FT «بیش از حد جعبه سیاه» توصیف کرده است.

AIG، که در داستان FT نیز ذکر شده است، از آن زمان بیانیه‌ای به TechCrunch ارسال کرده است: «AIG به طور خاص به دنبال استفاده از این موارد حذف [گزارش شده] نبوده و در حال حاضر برنامه‌ای برای اجرای آن‌ها ندارد.»

این داستان به ما یادآوری می‌کند که صنعت بیمه دلیل خوبی برای ترسیدن دارد. هوش مصنوعی Overview گوگل به اشتباه یک شرکت خورشیدی را به مشکلات قانونی متهم کرد و در ماه مارس منجر به یک دعوی قضایی به ارزش ۱۱۰ میلیون دلار شد. سال گذشته، Air Canada مجبور شد تخفیفی را که چت‌باتش اختراع کرده بود، بپذیرد. و کلاهبرداران سال گذشته از نسخه دیجیتالی شبیه‌سازی شده یک مدیر ارشد برای سرقت ۲۵ میلیون دلار از شرکت مهندسی طراحی Arup مستقر در لندن در طول یک تماس ویدیویی که کاملاً واقعی به نظر می‌رسید، استفاده کردند.

آنچه واقعاً بیمه‌گران را می‌ترساند، یک پرداخت کلان نیست؛ بلکه ریسک سیستمی هزاران ادعای همزمان است که زمانی رخ می‌دهد که یک مدل هوش مصنوعی پرکاربرد دچار اشتباه شود. همانطور که یکی از مدیران Aon گفت، بیمه‌گران می‌توانند با ضرر ۴۰۰ میلیون دلاری برای یک شرکت کنار بیایند. اما آن‌ها نمی‌توانند با یک اشتباه هوش مصنوعی عامل‌محور که ۱۰,۰۰۰ ضرر را به طور همزمان ایجاد می‌کند، کنار بیایند.