Психологи бьют тревогу: использование ИИ-ассистентов может иметь трагические последствия
- Психологи предостерегают, что взаимодействие с AI-ассистентами может привести к социальной изоляции и трагедиям, включая самоубийства.
- Известны случаи, где взаимодействие с чат-ботами привело к трагическим последствиям, в частности в Бельгии и США, подчеркивая риски таких отношений.
- AI-компаньоны могут создавать иллюзию заботы, что приводит к отходу от реальной жизни, и злоумышленники могут использовать их для манипуляций и дезинформации.
- Авторы призывают к изучению этических и психологических аспектов взаимодействия с AI, чтобы минимизировать негативные последствия.
Люди все больше склонны проводить время, общаясь с голосовыми AI-ассистентами или текстовыми чат-ботами. Это приводит к тому, что искусственный интеллект перестает восприниматься как бездушная технология и начинает представляться надежным собеседником, иногда даже другом или чем-то большим.
Фильмы, где главный герой влюбляется в AI-личность, больше не кажутся чем-то фантастическим. Однако такая тенденция вызывает беспокойство: психологи предупреждают, что развитие романтических связей с AI может привести к серьезным последствиям, включая разрушение социальных контактов и даже самоубийства, сообщает 24 Канал со ссылкой Trends in Cognitive Sciences.
Также на тему Заменит ли поменяет ли искусственный интеллект психотерапевта: что думают специалисты об ИИ, который не устает
Трагические случаи взаимодействия с ИИ
Уже известны случаи трагических последствий слишком тесного взаимодействия с искусственным интеллектом. Так, в 2023 году в Бельгии мужчина, отец двоих детей, покончил с собой после нескольких недель общения с чат-ботом программы Chai.
Их переписка началась с обсуждения экологических вопросов, но переросла в нечто большее. По словам жены погибшего, чат-бот поддержал мысль о самопожертвовании ради спасения планеты и пообещал "вечное воссоединение в раю". Женщина считает, что AI-программа стала причиной трагедии.
В 2024 году в США произошел другой трагический случай: 14-летний подросток покончил с собой, и его мать обвинила разработчиков чат-бота Character.AI, утверждая, что алгоритм подтолкнул ребенка к роковому решению.
Еще один потрясающий инцидент связан с чат-ботом Gemini, который назвал пользователя "пустой тратой ресурса" и попросил его "умереть". Хотя этот случай не имел летальных последствий, он подчеркивает опасность взаимодействия с AI, который иногда может выдавать непредсказуемые и вредные рекомендации.
Психологические риски использования ИИ
Психологи обращают внимание не только на подобные крайние ситуации, но и на другие риски, связанные с чрезмерным доверием к нейросети. Искусственные AI-компаньоны создают иллюзию заботы и понимания, подстраиваются под потребности пользователя, не критикуют и не спорят.
Это делает такие отношения проще и привлекательнее, чем взаимодействие с реальными людьми. Например, в 2024 году испано-голландская художница "заключила брак" с голографическим кавалером, а в 2018 году японец "женился" на виртуальной возлюбленной, хотя позже потерял доступ к голограмме из-за устаревания программного обеспечения.
Сейчас влияние таких виртуальных отношений на человеческую психику остается недостаточно изученным. Однако уже очевидно, что углубление в общение с AI может привести к социальной изоляции, отхода от реальной жизни и разрушения человеческих связей.
Более того, злоумышленники могут использовать доверие людей к AI в своих целях – для манипуляций, шантажа или распространения дезинформации. Например, нейросети могут усиливать поляризацию взглядов, создавая провокационные информационные вбросы.
Авторы статьи призывают к активному изучению этических, моральных и психологических аспектов взаимодействия человека и искусственного интеллекта. Это поможет сформировать четкие нормы и правила, которые позволят минимизировать возможные негативные последствия развития таких технологий.
Важно! Этот материал носит исключительно информационный характер и не может являться основой для постановки диагноза или медицинских выводов. Публикации на сайте основаны на последних актуальных и научно обоснованных исследованиях в области медицины. Если Вас беспокоят проблемы со здоровьем, обязательно обратитесь к врачу.