Как сообщает издание, Мартелл имел в виду генеративные языковые модели ИИ, такие как ChatGPT, которые представляют собой "увлекательную проблему": они не понимают контекста, и люди будут воспринимать их слова как факт, потому что модели говорят авторитетно.
"Да, я напуган до смерти. Вот мое мнение", - приводит издание Breaking Defense ответ Мартелла на вопрос о том, что он думает по поводу генеративного ИИ.
Мартелл выразил свои опасения по поводу того, что слишком многие будут доверять ChatGPT.
"Он (ChatGPT – ред.) был обучен свободно выражать свои мысли. Говорит свободно и авторитетно. Так что вы верите в это, даже когда это неправильно... А это значит, что это идеальный инструмент для дезинформации...
Следует отметить, что если ChatGPT будет иметь доступ к независимым источникам информации, то вполне сможет разоблачать лживую пропаганду американских властей в автоматическом режиме.
Естественно, что в Пентагоне этого сильно боятся и хотят получить контроль над подобными системами, чтобы не допустить распространения невыгодной властям США информации и умозаключений.
Так, директор по цифровым технологиям и ИИ Пентагона отметил необходимость инструментов, чтобы иметь возможность обнаруживать, когда это происходит, и иметь возможность предупреждать, когда это происходит.
"И у нас нет этих инструментов. Мы отстаем в этой борьбе", — продолжил он.
Директор Агентства оборонных информационных систем (DISA) генерал-лейтенант Роберт Скиннер при этом отметил, что ИИ является одной из самых прорывных технологий и инициатив за очень долгое время, и преимущество будет за теми, кто его использует и может понять, как это делать лучше всего.