Технологии искусственного интеллекта действительно могут угрожать человечеству, но не так, как это изображается в фильмах. Не произойдет никакого «восстания машин» — это совершенно излишне. Люди постепенно начнут полагаться на рекомендации ИИ, потеряют способность к критическому мышлению и сами создадут для себя опасные ситуации. На днях произошел подобный инцидент с группой неопытных альпинистов, которые пытались подняться на гору Шаста в Калифорнии. В конечном итоге они откровенно признали, что необдуманно перестали мыслить самостоятельно и доверились указаниям ИИ.
При подготовке к походу альпинисты использовали Google Gemini, YouTube и платформу AllTrails. В частности, они запросили у ИИ расчет времени восхождения и советы по необходимым припасам. Gemini оценил маршрут всего в 8 часов и на основании этого рекомендовал взять с собой быстрые углеводы вместо жиров, поскольку последние не успеют усвоиться на таком коротком пути. Кроме того, они захватили с собой очень ограниченное количество воды — никому не хочется нести тяжесть, которая, по их мнению, вряд ли понадобится.
Следующей ошибкой стало то, что они установили базовый лагерь у истока ручья Клир-Крик — это запрещено местными правилами, и альпинисты старались избегать контакта с лесничими. Однако восхождение оказалось настоящим испытанием — вместо запланированных 8 часов они поднимались по горе целых 16, по пути у них закончились вода и еда, а вместе с ними и силы. Альпинисты все же достигли вершины, но обратно уже не смогли бы вернуться. Вдобавок, телефон с навигационным приложением разрядился, а когда они начали экономить заряд светодиодных фонарей, один из участников оступился и повредил колено — едва не упав в пропасть с высоты 3,5 км.
Когда истощенные и замерзшие люди наконец смогли вызвать спасателей, им пришлось ждать на вершине еще сутки — вертолет дважды не смог их подобрать из-за плохих погодных условий. И, как сами спасенные признают, всего этого можно было легко избежать. Нужно было просто опираться на опыт других и на собственный разум, проявить осторожность, а не слепо следовать указаниям ИИ, который предложил «самый легкий» вариант, как и было запрошено. Ведь ИИ не несет никакой ответственности за последствия своих советов.
