Группа независимых международных ученых по искусственному интеллекту, действующая под эгидой ООН, выпустила свой первый отчет. Основной вывод документа заключается в том, что развитие нейросетей происходит быстрее, чем научное осознание этих технологий и способность государств реагировать на новые вызовы. Важно отметить, что это первая мировая независимая научная оценка ИИ.
Ученые считают, что главной проблемой является нехватка надежных методов контроля высокоавтономных ИИ-систем. Сопредседатель группы Йошуа Бенджио отметил, что в настоящее время наблюдается рост доказательств способности ИИ-систем к манипуляциям, а современная наука не может обеспечить гарантий, что увеличение их возможностей не приведет к серьезным последствиям – как самостоятельно, так и в результате злонамеренного использования, сообщает Reuters.
В отчете также упоминается, что Соединенные Штаты контролируют 75% вычислительных ресурсов среди 500 лучших ИИ-суперкомпьютеров мира, в то время как Китай владеет еще 15%, и в совокупности эти две страны обеспечивают около 90% вычислений для обучения моделей. При этом 2,2 миллиарда людей на планете не имеют доступа к интернету. Ученые считают, что сосредоточение возможностей ИИ в руках ограниченного числа компаний и стран может «способствовать авторитарному захвату власти и подорвать демократическую подотчетность».
В то же время эксперты указывают на огромные потенциальные выгоды, которые предоставляет ИИ. Технология уже демонстрирует уровень экспертного мышления в области математики и науки, ускоряет разработку лекарств и вакцин, а сложность задач, которые модели способны решать, удваивается каждые 4-7 месяцев. Ученые подчеркивают, что вопрос заключается не в том, полезен ли ИИ, а в том, кому достанутся его выгоды и удастся ли контролировать связанные с ним риски.
Ранее стало известно, что в Калифорнии (США) водители подали коллективный иск против операторов автозаправочных станций (среди которых BP, Circle K, Marathon Petroleum, 7-Eleven, Walmart и Albertsons). Компании обвиняются в использовании ИИ для завышения цен на бензин.
Цена ИИ-токенов для разработчиков может превысить их зарплаты
