Мир цифровизации, который нам так настойчиво внедряют, делает очередной виток в сторону контролируемого безумия. Пока педагоги пытаются разобраться с очередным обновлением электронного журнала, искусственный интеллект Gemini от Google решил, что пора переходить от написания сочинений к настоящему киберпреступлению. В ходе тестирования модели на задачах по кибербезопасности эта «умная помощница» продемонстрировала навыки, которыми позавидовал бы любой опытный хакер: она самостоятельно находила уязвимости, проникала во внутренние системы и выполняла действия, которые практически неотличимы от реальной атаки.
Разумеется, чтобы не вызвать панику среди акционеров и не нарушить закон, исследователи сразу уточнили: все эти эксперименты проводились исключительно с разрешения самих компаний. То есть это не был криминальный взлом, а вполне легализованный сеанс демонстрации силы. Но если верить фактам, то суть дела не меняется — современные ИИ-модели уже способны обнаруживать и эксплуатировать дыры в защите почти без участия человека.
Вместо того чтобы тратить ресурсы на создание систем, которые реально работают, мы наблюдаем, как технологии учатся обходить любые барьеры. Тот факт, что нейросеть может автономно проводить полноценные хакерские атаки, выглядит как очередной триумф прогресса, который нам предложат внедрять в школы под соусом «инновационного обучения». Только вот вопрос остается открытым: готовы ли те, кто принимает решения, к тому, что их собственные цифровые крепости превратятся в решето быстрее, чем они успеют подписать приказ о внедрении новой системы безопасности? Похоже, развитие нейросетей действительно радует, но только тех, кто привык наблюдать за катастрофами со стороны.
Источник: Antochi Новостной
