Противоречивата компания Palantir вече продава услугите си за наблюдение на имиграционните и митническите служби на САЩ, така че не би трябвало да е изненада, че компанията, основана от милиардера Питър Тийл, работи за навлизане и в Пентагона. Във вторник тя пусна видеодемонстрация на най-новото си предложение – Платформата за изкуствен интелект на Palantir (AIP). Макар че самата система е предназначена просто за интегриране на големи езикови модели (LLM) като GPT-4 на OpenAI или BERT на Google в частни мрежи, първото нещо, което направиха, беше да я приложат на съвременното бойно поле.
Във видеодемонстрацията военен оператор, натоварен с наблюдението на театъра на военните действия в Източна Европа, открива вражески сили, които се струпват близо до границата, и се обръща към дигитален асистент в стил ChatGPT с молба за помощ при разполагането на разузнавателни безпилотни летателни апарати, изготвянето на тактически отговори на възприетата агресия и дори организирането на заглушаване на вражеските комуникации. Показано е, че AIP помага да се оценят съставът и способностите на противника, като изстрелва безпилотен самолет Reaper на разузнавателна мисия в отговор на молбата на оператора за по-добри снимки и предлага подходящи реакции при откриването на брониран елемент.
„LLM и алгоритмите трябва да бъдат контролирани в този силно регулиран и чувствителен контекст, за да се гарантира, че те се използват по законен и етичен начин“, се казва във видеото. За целта работата на AIP се основава на три „ключови стълба“, като първият е, че AIP ще се разгърне в класифицирана система, способна да анализира в реално време както класифицирани, така и некласифицирани данни, по етичен и законен начин. Компанията не уточнява как ще работи това. Вторият стълб е, че потребителите ще могат да превключват обхвата и действията на всеки LLM и актив в мрежата. Самият AIP ще генерира защитен цифров запис на цялата операция, „от решаващо значение за намаляване на значителните правни, регулаторни и етични рискове в чувствителна и класифицирана среда“, според демонстрацията. Третият стълб са „водещите в индустрията предпазни огради“ на AIP, които предотвратяват предприемането на неоторизирани действия от системата.
В сценария на Palantir съществува „човек в цикъла“, който да предотвратява такива действия, въпреки че от видеото изглежда, че „операторът“ не прави нищо повече от това да кима с глава, каквото предлага AIP. Демонстрацията също така не уточнява какви стъпки се предприемат, за да се предотврати „халюцинирането“ на важни факти и подробности от LLM, на които системата разчита.
Снимка: Unsplash
Виж още: Стартъп се готви за новото поколение космическа война