Windows для роботов

Мы все привыкли, что сильный искусственный интеллект где-то там за горами. Но то, к чему меня привела моя профессиональная траектория, это то, что сильный ИИ будет создан в ближайшие 10–15 лет.

Нас ждёт многотриллионный рынок роботов, и, как всякое новое железо, роботы потребуют своей операционной системы, и эта операционная система и станет сильным искусственным интеллектом. Мы не сможем запрограммировать каждое движение каждого робота. Они вынуждены будут получать свои профессии, учиться, но не как делать ту или иную задачу, а когда и зачем её делать. Они будут учиться мотивациям и в конечном итоге ценностям, которые они будут брать у нас.

Здесь и заключается основная опасность, потому что с техническими проблемами мы справимся, а вот как быть с нами как с ролевой моделью для роботов? Все те противоречия и конфликты, которые есть у нас в мире, будут многократно усилены сильным искусственным интеллектом. Чтобы минимизировать риски, мы должны успеть до появления «нового мира», как-то договориться внутри себя, что для нас ценно и как мы будем решать все конфликты, которые у нас назрели. Здесь мы сдадим экзамен на наш искусственный интеллект, потому что человеческий интеллект тоже искусственный. Насколько далёк наш искусственный интеллект от естественного интеллекта шимпанзе и других приматов? Вот в чём вопрос.