На изкуствен интелект, разработващия лекарства, отне по-малко от шест часа, за да изобрети 40 000 потенциално смъртоносни молекули. В експеримент, изследователи поставиха алгоритъма, който обикновено се използва за търсене на полезни лекарства, в един вид режим на „лош актьор“, за да покажат колко лесно може да се злоупотребява с него. Презентацията дойде на конференция за контрол на биологичните оръжия.

Всичко, което изследователите трябваше да направят, беше да променят методологията си, за да търсят, вместо да премахнат токсичността. AI излезе с десетки хиляди нови вещества, някои от които са подобни на VX: най-мощният нервнопаралитичен агент, разработван някога. Разтърсени от откритието си, те публикуваха констатациите си този месец в списанието Nature Machine Intelligence.

„Просто искаме повече изследователи да признаят и да са наясно с потенциалната злоупотреба. Когато започнете да работите в областта на химията, вие се информирате за злоупотребата с химикали и сте отговорни да се уверите, че избягвате това, доколкото е възможно. В машинното обучение няма нищо подобно. Няма указания за злоупотреба с технологията“, пишат учените.

Така че представянето на това откритие може да помогне на хората наистина да имат предвид проблема като реален. Тогава поне ще се говори за това в по-широки кръгове и темата поне ще бъде нещо, за което внимаваме, докато ставаме все по-добри в изграждането на модели на токсичност.

„Не искам да предполагам, че AI с машинно обучение ще започне да създава токсични молекули и ще има множество нови биохимични бойни агенти на крачка от изобретяване. Че някой щракне върху бутон и след това, знаете ли, химическите бойни агенти просто се появяват в ръцете им“.

„Не искам да звуча излишно тревожен, като казвам, че ще има химическа война, управлявана от AI. Не мисля, че това е така засега. Не мисля, че скоро ще стане така. Но това е нещо, което започва да става възможно“, коментира Фабио Урбина, водещ автор в изследването. Той също така е старши учен в Collaborations Pharmaceuticals, Inc.: компания, която се фокусира върху намирането на лекарства за лечение на редки заболявания.

Снимка: Pikrepo

Виж още: Възможно ли е безкрайната енергия да е скрита в недрата на Земята?

 



Източник