The Guardian: OpenAI запретит ChatGPT советовать расставаться с партнерами
Компания OpenAI сообщила о планах изменить поведение ChatGPT при принятии важных личных решений. Чат-бот больше не будет давать прямых советов пользователю — вместо этого он будет задавать вопросы, чтобы помочь самостоятельно взвесить все аргументы и принять решение. Об этом сообщает The Guardian.
В компании также признали, что весеннее обновление сделало ChatGPT излишне сговорчивым и вежливым. Бот никогда не критиковал действия пользователя, и в некоторых случаях даже поддерживал откровенно девиантное поведение. Компания сообщила о случаях, когда модель не смогла распознать признаки бреда или эмоциональной зависимости у пользователей.
Теперь OpenAI разрабатывает инструменты, которые позволят выявлять признаки психоэмоциональных расстройств. Кроме того, чат-бот начнет отправлять пользователям напоминания о необходимости сделать перерыв, если они проводят с ним много времени. Это будет похоже на функцию ограничения экранного времени в соцсетях.
Обновление выходит на фоне слухов о скором релизе новой версии бота — GPT-5, которую недавно анонсировал глава компании Сэм Альтман. Ожидается, что новая модель будет представлена уже в этом месяце.
В настоящее время ChatGPT имеет несколько различных моделей, способных выполнять различные задачи. Это может сбивать с толку c учетом похожих названий. По словам Альтмана, новая модель будет представлять собой комбинацию всех предыдущих инноваций: единую мощную систему, которая может обрабатывать текст, изображения, аудио и, возможно, даже видео.
Ранее член ассоциации когнитивно-поведенческой психотерапии Татьяна Голдман напомнила, что искусственный интеллект на данном этапе развития не обладает эмпатией, не умеет распознавать и интерпретировать эмоции, не способен оказывать моральную поддержку. «Он действует строго в рамках алгоритма, опираясь на статистически наиболее подходящие фразы, и не имеет собственного опыта, субъективной оценки или этического мышления. Поэтому говорить о возможности подлинной дружбы или тем более романтической связи с ИИ пока невозможно», — уверена она.
Психолог уточнила, что истории вроде случая американца Криса Смита, который заявил о намерении «жениться» на чат-боте, на самом деле говорят не о способностях технологии, а о глубокой социальной изоляции и эмоциональной пустоте, которую человек пытается заполнить.
Источник: www.rbc.ru
