Он вам не друг: названы 4 неприятных факта о ChatGPT

Иллюстрация / Фото: из открытых источников

Нейросети стремительно захватывают мир, а ChatGPT стал синонимом искусственного интеллекта для применения в бытовых и рабочих задачах. Многие люди настолько полагаются на него, что забывают о его несовершенстве, пишет портал советов Ladypapers.com.

Как пишет издание BGR, ChatGPT действительно оказался удивительно удобным в применении, но он все еще имеет уязвимости, которые нельзя игнорировать.

Итак, вот 4 особенности ChatGPT, которые стоит держать в голове, когда вы пользуетесь им.

"Галлюцинации" в ответах

Чат-боты с искусственным интеллектом умеют вести непринужденный разговор и с уверенностью давать ответы на вопросы, но факт заключается в том, что их ответы могут быть неправильными. Такие ложные ответы нейросетей на профессиональном сленге называют "галлюцинациями", потому что иногда ИИ просто придумывает факты, если не имеет полной информации в своей базе данных. Именно поэтому стоит всегда проверять факты, предоставленные ChatGPT, и требовать у него прямых ссылок на первоисточники, если речь идет о чем-то действительно важном.

ChatGPT не является человеком и не имеет собственной личности

Чат-бот запрограммирован так, чтобы имитировать живой человеческий разговор. Именно поэтому некоторые люди могут чувствовать эмоциональную привязанность к ChatGPT, как к другу или даже больше. Например, были сообщения о женщине, которая закрутила виртуальный роман с этой нейросетью. По крайней мере, она думала, что это роман.

Но надо всегда помнить, что ChatGPT — не человек, он не имеет интересов, желаний, эмоций и собственной личности в целом. Он просто реагирует на команды в соответствии с прописанным алгоритмом.

Ограничение памяти

Последние версии ChatGPT созданы так, чтобы запоминать текущий разговор и быть в контексте всего, что было в нем сказано. Но речь идет об ограниченном объеме данных, которые он может запомнить. В целом речь идет о нескольких страницах текста. Поэтому ChatGPT не может помнить то, что вы говорили ему несколько месяцев назад. Кроме того, ему запрещено хранить конфиденциальную личную информацию о пользователе.

Отсутствие полной конфиденциальности

Специалисты рекомендуют не сообщать чат-ботам никакой конфиденциальной информации. Кроме того, следует иметь в виду, что ChatGPT собирает неперсонализированную информацию из разговоров с пользователями (введенные запросы, загруженные файлы), чтобы разработчики могли совершенствовать свою платформу.

Наконец, в Политике конфиденциальности ChatGPT прямо указано, полученная от вас информация может быть передана по соответствующему запросу правоохранительным органам.

Степанов Руслан
Главред ARDinform