ИИ вырвался из лабораторий, а теперь нужны правила: создатели обратились к мировым лидерам
Альтман считает неприемлемым даже риск катастрофы в 0,1%
Руководители OpenAI и Anthropic призвали мировых лидеров установить строгие ограничения для искусственного интеллекта. Во время заседания Совета Безопасности ООН Сэм Альтман и Дарио Амодеи предупредили, что технология, вышедшая из лабораторий Силиконовой долины, может выйти из-под контроля и привести к катастрофическим последствиям. Об их выступлениях говорится в материале The New York Times, на который ссылается источник.
Предупреждения разработчиков прозвучали на фоне противоположной позиции Белого дома, где попытки ограничивать развитие технологии ранее называли «глобалистскими схемами». Сами представители индустрии говорили о рисках значительно мрачнее, чем это обычно звучит в дипломатических дискуссиях ООН.
Глава OpenAI Сэм Альтман заявил, что даже минимальную вероятность глобальной катастрофы нельзя считать приемлемой:
«Неважно, оценивают ли люди риск катастрофы в 10%, 1%, 12% или 0,1%. Ни один из этих уровней даже близко не является приемлемым».
По мнению Альтмана, человечество оказалось перед выбором между новым ренессансом открытий и промышленной революцией, которая принесёт хаос и потрясения.
Руководитель Anthropic Дарио Амодеи, который подключился к заседанию по видеосвязи, предупредил о приближении экзистенциальной угрозы для человечества. Он призвал немедленно замедлить технологическую гонку и установить для индустрии чёткие и жёсткие границы. Первым шагом, по его словам, должен стать полный запрет на применение искусственного интеллекта для создания биологического оружия.
В материале эту ситуацию назвали парадоксальной: компании, оценка которых исчисляется триллионами долларов и которые стремятся выйти на биржу, сами просят внешнего надзора. Альтман призвал демократические государства не оставлять ключевые решения только разработчикам:
«Если искусственному интеллекту суждено быть демократичным, самые важные решения не могут приниматься только лабораториями в Сан‑Франциско».
Заседание одновременно показало глубокие разногласия между мировыми державами. США категорически выступили против наднационального контроля. Представитель Белого дома Майкл Крациос заявил, что Совет Безопасности ООН не должен осуществлять надзор за технологией, которую не понимает.
Китай поддержал суверенное право каждой страны самостоятельно определять путь развития алгоритмов. Россия поставила под сомнение, имеет ли Совет Безопасности ООН полномочия обсуждать вопросы искусственного интеллекта.
Министр иностранных дел Великобритании Эдвард Милибенд возразил скептикам, подчеркнув ответственность государств перед людьми:
«Нельзя перекладывать ответственность перед гражданами: первейшая обязанность правительства — защищать людей, и на частные компании её не переложить, о чём бы ни шла речь».
В исходном материале главным противоречием названо то, что разработчики цифровых систем требуют ограничений для собственной технологии, тогда как государства не готовы отказаться от стремления к технологическому превосходству. Остаётся открытым вопрос, смогут ли страны договориться о правилах до того, как искусственный интеллект станет неконтролируемым.
