ChatGPT и миллион «криков о помощи»: что показал внутренний аудит OpenAI?

Мир обсуждает шокирующие цифры, опубликованные в авторитетном журнале The BMJ. Внутренний аудит компании OpenAI выявил пугающую статистику: еженедельно более миллиона пользователей ChatGPT демонстрируют признаки серьезного психического дистресса, мании или суицидальных намерений.

Масштаб трагедии в цифрах
На первый взгляд, эти случаи составляют лишь доли процента от общего объема трафика. Но когда у платформы 800 миллионов активных пользователей, «доли процента» превращаются в беспрецедентные цифры. Каждую неделю нейросеть фиксирует:
📍 Около 1,2 миллиона человек с выраженными суицидальными мыслями.
📍 Свыше 500 тысяч пользователей с признаками острого психоза или мании.

Это означает, что ChatGPT фактически стал крупнейшей в мире «исповедальней» и невольным кризисным центром. Люди доверяют алгоритму то, что боятся сказать врачам или близким.

Зачем OpenAI раскрыла эти данные?
Компания сообщает, что аудит проводился в рамках масштабного обновления системы безопасности. Цель — научить ИИ не просто поддерживать диалог, а выступать «предохранителем». Новая версия алгоритма должна:

    Точнее различать обычную грусть от клинической депрессии и опасных состояний.
    Улучшить качество ответов в кризисных сценариях (чтобы ИИ случайно не дал вредный совет).
    Мгновенно направлять пользователя к профессиональным службам поддержки и горячим линиям.

Этическая дилемма: спасение или слежка?
Эта новость поднимает важнейший вопрос: где проходит граница между заботой о здоровье и тотальным анализом нашей психики? С одной стороны, ИИ может спасти тысячи жизней, вовремя распознав риск. С другой — мы сталкиваемся с реальностью, где корпорация знает о нашем ментальном состоянии больше, чем наш лечащий врач.

Готов ли искусственный интеллект к роли «цифрового психолога»? И не станет ли такая интимная близость с машиной причиной еще большего одиночества в реальном мире?

Что вы думаете? Доверили бы вы нейросети свои самые темные мысли, зная, что каждое слово анализируется системой безопасности? 👇