Эксперты исследовательского центра «Робоправо» разработали проект первой в мире конвенции о робототехнике и искусственном интеллекте. Один из авторов конвенции Виктор Наумов в декабре 2016 года в соавторстве с основателем инвестиционного фонда Grishin Robotics и председателем совета директоров Mail.ru Group Дмитрием Гришиным создал концепцию первого в мире закона о робототехнике.
Нынешний проект по утверждению его авторов получил поддержку ряда участников рынка робототехники, а также ученых и экспертов. Сейчас он направлен на рассмотрение в комитет Госдумы по экономической политике, промышленности, инновационному развитию и предпринимательству, а также в комитет по международным связям. Текст конвенции в том числе передан в Министерство иностранных дел и представителю России при ООН.
В конвенцию предложено включить в том числе такие пункты:
- Роботы, физически взаимодействующие с людьми и не находящиеся под прямым управлением человека, должны иметь функцию моментального или аварийного отключения по требованию («красная кнопка»).
- К эксплуатации роботов, потенциально способных причинить человеку существенный, в том числе смертельный, вред в силу своей конструкции и назначения (медицинские роботы, имплантируемые устройства, высокоавтоматизированные транспортные средства, военные роботы и т. д.), должны быть установлены повышенные требования по защите от несанкционированного доступа третьих лиц.
- Человек не должен умалять человеческое достоинство своим обращением с роботами.
- Разработчики, исследователи и лица, финансирующие исследования в сфере искусственного интеллекта, а также в смежных областях, должны исходить из презумпции опасности искусственного интеллекта, подразумевая, что созданная или создаваемая технология искусственного интеллекта является опасной для человека, пока не доказано иного.
