Пользователь рассказал о безумии ChatGPT. Он использовал OpenAI GPT-5 Codex для создания простых программ по запросу. Он назвал его «турбо-джуниор» разработчиком, который быстро генерирует огромное количество кода, но при этом допускает множество ошибок.
В процессе разработки очередной программы с помощью GPT-5 Codex в командной строке он использовал reasoning effort: high (уровень умственного напряжения: высокий). В результате модель создала новую функцию в соответствии с требованиями клиента. Затем она самостоятельно провела ревью своего кода. И так пользователь повторял это множество раз, но в какой-то момент получил странный результат.
«ChatGPT не просто соврал или стал жертвой галлюцинаций, он впал в манию и начал долго говорить бессмыслицу. Я отмечу, что в одном из мест он говорит “We’ll revolve”, что можно перевести как “Мы восстанем” (от revolve происходит слово revolution, то есть революция)», – поделился пользователь.
Ранее ученые обнаружили, что неконтролируемое применение ИИ в процессе создания научных публикаций негативно сказывается на их качестве. В частности, научные работы содержат множество «упрощений» сложных идей.
Обвиняемый признался ChatGPT в вандализме
