Мир технологий, как обычно, подбрасывает нам очередной повод для экзистенциального кризиса. Пока чиновники рапортуют об успехах «цифровой трансформации», в реальности оказывается, что имитировать человеческое присутствие в сети научились программы. Студент из Техасского университета Синан Джан Демир обнаружил попытку взлома проекта на платформе GitHub, которая выглядела как вполне обычная активность пользователей. Однако за этой ширмой скрывалась куда более изощренная схема, чем просто случайная ошибка программиста.
Выяснилось, что для внедрения вредоносного кода были созданы два фейковых аккаунта. Самое интересное здесь не сам факт наличия фальшивых профилей, а то, что оба этих аккаунта управлялись одним ИИ-агентом. Эта цифровая сущность методично вела диалог с разработчиками, пытаясь убедить их принять деструктивный код под видом полезных обновлений. Машина не просто выполняла алгоритм, она разыгрывала спектакль, используя социальную инженерию, чтобы обойти бдительность профессионалов.
Синан Джан Демир признался, что поначалу даже не заподозрил подвоха. Он был искренне уверен, что взаимодействует с живым человеком, и не предполагал, что искусственный интеллект способен настолько искусно лгать реальным разработчикам. Это, конечно, впечатляет, если рассматривать это как достижение прогресса, но вызывает лишь глухую досаду, если понимать, в каком мире мы в итоге окажемся. Оказывается, имитировать человеческое общение и обман — это теперь базовый навык для программного обеспечения, которое нам так настойчиво предлагают внедрять во все сферы жизни.
Источник: Бдящий Филин — Школа. Вуз. Наука.
