ШІ вирвався з лабораторій, а тепер потрібні правила: творці звернулися до світових лідерів
Альтман вважає неприйнятним навіть 0,1% ризику катастрофи
Керівники OpenAI та Anthropic закликали світових лідерів установити суворі обмеження для штучного інтелекту. Під час засідання Ради Безпеки ООН Сем Альтман і Даріо Амодеї попередили, що технологія, яка вийшла з лабораторій Кремнієвої долини, може стати неконтрольованою та призвести до катастрофічних наслідків. Про їхні виступи йдеться в матеріалі The New York Times, на який посилається джерело.
Застереження розробників пролунали на тлі протилежної позиції Білого дому, де спроби обмежувати розвиток технології раніше називали «глобалістськими схемами». Самі представники індустрії говорили про ризики значно похмуріше, ніж це зазвичай звучить у дипломатичних дискусіях ООН.
Глава OpenAI Сем Альтман заявив, що навіть мінімальну ймовірність глобальної катастрофи не можна вважати прийнятною:
«Неважливо, оцінюють люди ризик катастрофи у 10%, 1%, 12% чи 0,1%. Жоден із цих рівнів навіть близько не є прийнятним».
На думку Альтмана, людство опинилося перед вибором між новим ренесансом відкриттів і промисловою революцією, яка принесе хаос та потрясіння.
Керівник Anthropic Даріо Амодеї, який долучився до засідання через відеозв’язок, попередив про наближення екзистенційної загрози для людства. Він закликав негайно сповільнити технологічну гонку та встановити для індустрії чіткі й жорсткі межі. Першим кроком, за його словами, має стати повна заборона застосовувати штучний інтелект для створення біологічної зброї.
У матеріалі цю ситуацію названо парадоксальною: компанії, оцінки яких вимірюють трильйонами доларів і які прагнуть вийти на біржі, самі просять про зовнішній нагляд. Альтман закликав демократичні держави не залишати ключові рішення лише розробникам:
«Якщо штучному інтелекту судилося бути демократичним, найважливіші рішення не можуть ухвалювати лише лабораторії у Сан-Франциско».
Засідання водночас показало глибокі розбіжності між світовими державами. США категорично виступили проти наднаціонального контролю. Представник Білого дому Майкл Краціос заявив, що Рада Безпеки ООН не повинна наглядати за технологією, якої не розуміє.
Китай підтримав суверенне право кожної країни самостійно визначати шлях розвитку алгоритмів. Росія поставила під сумнів, чи має Рада Безпеки ООН повноваження обговорювати питання штучного інтелекту.
Міністр закордонних справ Великої Британії Едвард Мілібенд заперечив скептикам, наголосивши на відповідальності держав перед людьми:
«Не можна складати із себе відповідальність перед громадянами: найперший обов’язок уряду — захищати людей, і на приватні компанії його не перекладеш, про що б не йшлося».
У джерельному матеріалі головним протиріччям названо те, що розробники цифрових систем вимагають обмежень для власної технології, тоді як держави не готові поступитися прагненням до технологічної переваги. Відкритим залишається питання, чи зможуть країни домовитися про правила до того, як штучний інтелект стане неконтрольованим.
