Проект разработки нейронной сети, способной общаться с человеком, получил обозначение XAI (Explainable Artificial Intelligence, «Объяснимый искусственный интеллект»). В его рамках предполагается создание нейросети, которая не уступит по быстродействию обычной, но при этом будет способна показать всю логическую цепочку, как и почему она приняла то или иное решение. Объяснять свои решения нейронная сеть должна будет с помощью графического интерфейса.
«Объяснимая» нейросеть разрабатывается с прицелом на использование в проектах Министерства обороны США по созданию смешанных боевых подразделений из людей и роботов. Сейчас это может показаться фантастикой, но Пентагон уверен, что совсем скоро боевые роботы придут на помощь бойцам американской армии и даже будут способны самостоятельно принимать решения в рамках выполнения поставленных задач — например, открывать огонь по противнику.
Проект американских военных по созданию смешанных боевых подразделений подразумевает, что люди и роботы будут взаимодействовать как обычные напарники. Конечно, у солдат этот факт вызывает справедливое беспокойство, поэтому в DARPA полагают, что повысить доверие к боевым роботам можно, если заставить их объяснять собственные действия и таким образом стать более предсказуемыми для человека. Так ли это на самом деле, покажет время.
