Исследователи в области безопасности создали вирус-червь для искусственного интеллекта (ИИ), который может проникать в такие модели, как ChatGPT и Gemini, и потенциально красть данные.
Исследователи, работающие в США и Израиле, специально создали компьютерного червя, чтобы он служил информатором и предотвращал появление подобных ему червей в моделях генеративного ИИ.
Компьютерный червь может реплицировать себя и распространяться, компрометируя другие машины. В отличие от других червей, для получения вредоносного ПО созданному новичку не нужно щелкать мышью или открывать электронное письмо: он делает это автоматически в момент получения зараженного письма.
Они назвали червя Morris II в честь первого в истории компьютерного червя, разработанного в 1988 году.
Исследователи создали систему электронной почты, которая могла отвечать на сообщения с помощью генеративного ИИ, а затем подключаться к моделям ChatGPT, Gemini и LLaVA.
Morris II был продемонстрирован против почтовых ассистентов на базе генеративного ИИ и мог похищать личные данные и запускать спам-кампании.
“Исследование демонстрирует, что злоумышленники могут вставлять такие подсказки во входные данные, которые при обработке моделями генеративного ИИ побуждают модель воспроизвести входные данные в качестве выходных (репликация) и совершить вредоносные действия (полезная нагрузка)”, – пишут исследователи.
Подсказка, которая представляет собой любой вопрос или сообщение, заданное модели ИИ, заставляет модель ИИ ответить другой подсказкой, которая может заразить помощника ИИ, чтобы затем выудить конфиденциальную информацию.