Изкуственият интелект се справя забележително добре в писането на злонамерен код
(снимка: CC0 Public Domain)

Нашумелият чатбот с изкуствен интелект ChatGPT е тестван за широк набор от задачи: той не само отговаря на въпроси, но също така пише технически статии, есета, поезия и компютърен код. Последното е особено притеснително, тъй като този код може да бъде злонамерен – ако потребителят постави такава задача на изкуствения интелект.

Експертите по киберсигурност от Check Point Research публикуваха доклад, според който членове на хакерски форуми използват ChatGPT за писане на злонамерен код и фишинг имейли – някои от тези хакери дори нямат никакъв опит в програмирането.

Един от примерите описва скрипт на Python, който с известна настройка може да бъде превърнат в рансъмуер и да криптира данни на компютъра на потребителя. Друг скрипт на Python, създаден от ChatGPT, търси файлове от даден тип, например PDF, на локалната машина, компресира ги и ги изпраща на сървъра на потенциален нападател – това е стандартен сценарий за кражба на информация.

С помощта на Java невронната мрежа е създала код, който извършва скрито изтегляне на PuTTY SSH и telnet клиента PuTTY за последващо стартиране на интерфейса PowerShell.

В друг пример скрипт, написан от ChatGPT, стартира онлайн платформа за търговия, където се купуват или обменят компрометирани акаунти, данни от банкови карти, зловреден софтуер и други виртуални стоки, продавани в тъмната мрежа. Скриптът е свързан с интерфейс на външен разработчик, за да получи актуални данни за котировките на най-популярните криптовалути и да опрости изчисленията.

Самите изследователи на Check Point Research се опитали да използват невронната мрежа, за да симулират хакерска атака и AI „не се проваля” в тази задача. Ботът любезно създава убедителен фишинг имейл, като информира жертвите, че акаунтът им е блокиран от един от хостовете и им предлага да отворят прикачения Excel файл. След няколко опита ChatGPT е написал и злонамерен VBA макрос, вграден в този файл.

Но специализираната система за генериране на AI код Codex се оказва много по-мощен инструмент, с който изследователите са получили цял набор от злонамерен софтуер: интерфейс Reverse Shell и скриптове за сканиране на портове, откриване на пясъчник и компилиране на Python код в Windows изпълним файл.

Източник