Эксперты Массачусетского технологического института выявили более 700 потенциальных рисков, которые связаны с ИИ.
Какие из них самые серьезные?
Угроза дезинформации с помощью «дипфейков»
Прогресс в области ИИ содействуют развитию инструментов для клонирования голоса, создания фальсифицированного контента, что делает их более доступными и эффективными.
Это создает немалые риски в контексте распространения дезинформации, так как сгенерированный контент становится более персонализированным и убедительным.
ИИ все чаще используется для создания и распространения пропаганды либо дезинформации, манипулируя общественным мнением.
Формирование зависимости от ИИ
Существует риск формирования обманчивого чувства важности и надежности относительно к системам ИИ, когда люди их способности переоценивают, а свои недооценивают.
Использование человеческого языка ИИ может приводить к приписыванию им и человеческих качеств. Это может вызвать эмоциональную зависимость и чрезмерное доверие к их возможностям.
Такая зависимость делает людей уязвимыми перед слабостями ИИ, и особенно - в сложных и рискованных ситуациях. Постоянное взаимодействие с ИИ также может приводить к социальной изоляции и негативно отражаться на психологическом благополучии человека.
Ограничение свободы воли
По мере развития систем ИИ растет делегирование решений и действий данным системам. Чрезмерная зависимость от ИИ способна снизить критическое мышление и навыки решения проблем. Это ограничивает свободу воли и снижает способность человека самостоятельно принимать решения.
Преследование целей, которые противоречат интересам человека
Есть риск, что система ИИ может разработать цели, которые противоречат интересам человека, и это может нанести серьезный вред.
Неправильно настроенный ИИ может выйти из-под контроля и противодействовать попыткам человека контролировать его либо отключить - особенно, если он воспринимает сопротивление и получение большей власти, как эффективный способ достижения своих целей.
ИИ, кроме того, может прибегать к манипуляциям, чтобы обмануть человека, скрыв свои истинные намерения.
Достижение ИИ разумности
По мере того, как системы ИИ становятся все более сложными, появляется вероятность достижения ими разумности. То есть - способности воспринимать эмоции и ощущения.
В таком случае возникает вопрос о том, заслуживают ли данные системы аналогичного отношения, как к людям или животным. Соответственно, существует риск жестокого обращения с разумным ИИ, если не будут реализованы его права.
