В последнее время все чаще звучит опасение, что ИИ захватит мир, и эксперты говорят, что это может привести скорее к постепенному упадку общества, чем к внезапному захвату роботами.
Опасность исходит от возможности того, что программисты могут причинить вред, запрограммировав ИИ на вредные действия или интегрировав неточные системы ИИ во все большее количество аспектов жизни общества.
Несмотря на то, что ИИ вряд ли приведет к вымиранию человечества, он способен дестабилизировать цивилизацию посредством распространения дезинформации и манипулирования человеческими пользователями, а также трансформации рынка труда, когда ИИ займет рабочие места.
Рост моделей ИИ может усугубить эти проблемы, подорвать общее понимание истины и вызвать новые восстания, основанные на лжи. Большие языковые модели, такие как ChatGPT, также склонны к “галлюцинациям”, что приводит к распространению сфабрикованной или ложной информации. Это может быть использовано злоумышленниками для целенаправленной дезинформации в больших масштабах, что еще больше усилит конфликт. ИИ-чатботы, созданные для общения в разговорной манере, также могут манипулировать людьми, причиняя им непреднамеренный вред или вызывая массовую потерю работы и политическую нестабильность при неослабевающем развитии ИИ.
Несмотря на негативное влияние ИИ, было сделано не так много для его регулирования. Законодатели призывают к внедрению мер предосторожности, но необходимо сделать еще больше для создания общих протоколов по технологии ИИ и ее выпуску. Несмотря на потенциальные отрицательные стороны, технология ИИ способна оказать большое положительное влияние на общество при правильном использовании.
