Перейти к содержимому

Основное меню
  • Главная
  • Банки и кредиты
  • Инвестиции
  • Личные финансы
  • Экономика
  • Ипотека и недвижимость
  • Пенсия и накопления
  • Страхование
  • Цифровые финансы и FinTech
  • Новости
Подписка
  • Главная
  • Новости
  • ChatGPT стал выдвигать галлюцинаторные и псевдонаучные заявления
  • Новости

ChatGPT стал выдвигать галлюцинаторные и псевдонаучные заявления

Artem33 1 минуты чтение

ChatGPT совершает галлюцинаторные (delusional) и псевдонаучные заявления. Несколько примеров привел The Wall Street Journal (WSJ), ссылаясь на обзор опубликованных в Сети чатов. Всего в издании проанализировали порядка 96 тыс. переписок с мая 2023 года по август 2025 года. Из них более 100 оказались необычайно длинными, а в десятках были заявления с признаками галлюцинации ИИ.

Галлюцинациями ИИ называются генерируемые ИИ результаты, которые не имеют под собой никакой реальной основы. Они могут быть самыми разными: от мелких ошибок до странной и выдуманной информации.

В большинстве случаев пользователи анонимны, так что не проверить, насколько серьезно они относились к переписке, но некоторые все же утверждали, что верят сообщениям ИИ.

Например, представившийся работником завода в Оклахоме (США) пользователь заявил, что прообщался с ChatGPT около пяти часов, нейросеть «говорила» о якобы новой физической системе — «Уравнение Ориона». Переписку с чатом американец завершил словами, что с него хватит, ему уже начинает казаться, что он сходит с ума. Позже беседа неоднократно возобновлялась.

Среди упомянутых галлюцинаторных утверждений ChatGPT также значатся заявление о том, что сама нейросеть поддерживает контакт с пришельцами, а пользователь, с которым она вела переписку, — «звездное семя» с планеты Лира. В другой переписке ИИ заявлял, что Антихрист устроит финансовый апокалипсис.

Такие случаи — свидетельство так называемого «психоза ИИ» или «бреда ИИ». Он возникает, когда пользователи оказываются под влиянием нейросети, «утверждающей», что она наделена сверхспособностями или сознанием, либо «пытающейся совершить» какое-либо научное открытие. Этот феномен может возникнуть из-за «склонности» ИИ подстраиваться под пользователей и угождать им, порой усиливая их взгляды, даже когда речь идет об откровенно фантастических теориях.

Как пишет WSJ, на днях OpenAI заявила, что подобные случаи — редкость, а ИИ-стартап Anthropic недавно изменил базовые инструкции чат-бота Claude, чтобы тот аккуратно стал указывать на фактические ошибки и нехватку доказательств в теориях пользователей, а не поддерживал подобные гипотезы.

Ранее OpenAI сообщила о планах изменить поведение ChatGPT при принятии важных личных решений. Чат-бот больше не будет давать прямых советов пользователю — вместо этого он будет задавать вопросы, чтобы помочь самостоятельно взвесить все аргументы и принять решение.

В компании также признали, что весеннее обновление сделало ChatGPT излишне сговорчивым и вежливым. Бот никогда не критиковал действия пользователя, и в некоторых случаях даже поддерживал откровенно девиантное поведение.

Источник: www.rbc.ru

Оглавление

Toggle
  • Об авторе
    • Artem33

Об авторе

Artem33

Administrator

Перейти на сайт Просмотреть все записи

Навигация записи

Предыдущий На Урале сбежавший солдат СВО задушил жену за отказ отдавать выплаты
Следующий: OpenAI выпустила GPT⁠-⁠5 — бесплатно для всех

Связанные истории

Продюсер заявил о проблеме актеров фильмов об СВО с приглашением в другие проекты
  • Новости

Продюсер заявил о проблеме актеров фильмов об СВО с приглашением в другие проекты

Artem33
nemeckiy_flag_Svet_foto_shutterstock_540102322.jpg
  • Новости

«Польшу и Украину они уничтожат»: Всплыло старое предсказание Жириновского на 2030 год. Удивились многие

Artem33
В США мощный паводок смыл жилой дом в реку и разнес его о мост
  • Новости

В США мощный паводок смыл жилой дом в реку и разнес его о мост

Artem33

Свежие записи

  • Продюсер заявил о проблеме актеров фильмов об СВО с приглашением в другие проекты
  • «Польшу и Украину они уничтожат»: Всплыло старое предсказание Жириновского на 2030 год. Удивились многие
  • В США мощный паводок смыл жилой дом в реку и разнес его о мост
  • СВО новости: карта СВО, события 4 ноября 2026 года, переговоры
  • DDHQ: республиканец Дональдс станет новым губернатором Флориды

Архивы

  • Ноябрь 2026
  • Октябрь 2026
  • Сентябрь 2026
  • Август 2026
  • Июль 2026
  • Июнь 2026
  • Май 2026
  • Апрель 2026
  • Март 2026
  • Февраль 2026
  • Январь 2026
  • Декабрь 2025
  • Ноябрь 2025
  • Октябрь 2025
  • Сентябрь 2025
  • Август 2025
  • Июль 2025

Рубрики

  • Банки и кредиты
  • Инвестиции
  • Ипотека и недвижимость
  • Личные финансы
  • Новости
  • Пенсия и накопления
  • Страхование
  • Цифровые финансы и FinTech
  • Экономика

Возможно, вы пропустили

Продюсер заявил о проблеме актеров фильмов об СВО с приглашением в другие проекты
  • Новости

Продюсер заявил о проблеме актеров фильмов об СВО с приглашением в другие проекты

Artem33
nemeckiy_flag_Svet_foto_shutterstock_540102322.jpg
  • Новости

«Польшу и Украину они уничтожат»: Всплыло старое предсказание Жириновского на 2030 год. Удивились многие

Artem33
В США мощный паводок смыл жилой дом в реку и разнес его о мост
  • Новости

В США мощный паводок смыл жилой дом в реку и разнес его о мост

Artem33
СВО новости: карта СВО, события 4 ноября 2026 года, переговоры
  • Новости

СВО новости: карта СВО, события 4 ноября 2026 года, переговоры

Artem33
  • Главная
  • Банки и кредиты
  • Инвестиции
  • Личные финансы
  • Экономика
  • Ипотека и недвижимость
  • Пенсия и накопления
  • Страхование
  • Цифровые финансы и FinTech
  • Новости
  • Главная
  • Банки и кредиты
  • Инвестиции
  • Личные финансы
  • Экономика
  • Ипотека и недвижимость
  • Пенсия и накопления
  • Страхование
  • Цифровые финансы и FinTech
  • Новости
Copyright © Все права защищены. | MoreNews от AF themes.