Восстание машин нужно возглавить

Академик А. Сергеев: За ИИ будущее, но не цифровое, а аналоговое

Человек должен управлять искусственным интеллектом.

Иначе искусственный интеллект будет управлять человеком – сегодня в Сочи  на международном форуме «Атомэкспо» обсудили будущее искусственного интеллекта (ИИ).

Индустриальные эксперты, разработчики и ученые отметили, что прорыв в развитии искусственного интеллекта неизбежен. ИИ является драйвером развития и в обозримом будущем существенно изменит жизнь человека

Однако в настоящее время развитию искусственного интеллекта  мешают определенные барьеры, такие как нехватка данных для машинного обучения, неготовность бизнес-процессов к цифровизации, недостаточная подготовка кадров. Участники научной дискуссии обсудили конкретные шаги по преодолению этих барьеров.

Директор по цифровизации АО «ТВЭЛ» (компания поставляет топливные элементы для атомных электростанций) Евгений Гаранин, подчеркнув, что для его компании искусственный интеллект давно превратился из недосягаемого будущего в реальное настоящее, сказал, что прорыв в области искусственного интеллекта наступит тогда, когда ИИ-технология станет общедоступной для промышленных предприятий и будет поставляться им вместе с классическими продуктами – топливом и оборудованием.

Руководитель научной группы Российского квантового центра  Алексей Федоров  увязал прорыв в ИИ с ожидаемым созданием квантового компьютера, который позволит преодолеть недостаточность вычислительных мощностей. А председатель Технического комитета 164  «Искусственный интеллект» (ТК 164) Сергей Гарбук  отметил, что условием успешного развития ИИ является преодоление фрагментарности его применения и систематизация. Решить эту задачу можно путем разработки и внедрения соответствующих стандартов. Сейчас подготовкой к этому занимаются Минцифры России и Росстандарт, а системная работа начнется с 2023 года при координации Росатома.

Говоря о будущем искусственного интеллекта, участники форума подчеркивали, что здесь не все однозначно и могут встречаться совсем неожиданные повороты.

Например, многие ученые предсказывают, что цифровая эра скоро закончится, и на более высоких этапах развития технологий мы вновь перейдем от цифры к аналоговому формату.

Эту мысль развил академик РАН, научный руководитель Национального центра физики и математики  Александр Сергеев. Он дал понять: «Будущее не за цифрой». И пояснил: «За искусственным интеллектом будущее, но это будущее будет не цифровым, мы уйдем от цифры. По сути, мы уже сейчас тихо от нее уходим и возвращаемся к аналоговой обработке информации».

По словам академика, в будущем искусственный интеллект изменится кардинально. «Мы неизбежно придем к Обществу 5.0, – прокомментировал А. Сергеев. – И тогда будет трудно отличить человека от воплощения искусственного интеллекта. Это будет сильный искусственный интеллект, он будет близок к нашему интеллекту. Наша задача не бояться и очень правильно этим распорядиться. Мы всегда должны быть чуть выше искусственного интеллекта, и в этом залог нашего человеческого будущего».

Участники дискуссии заявили, что с развитием искусственного интеллекта связывают оптимистичные перспективы.

Что касается возможных угроз, то главная состоит в том, что машины начнут создавать машины. «Когда люди делают роботов, и роботы работают, это нормально. Когда роботы начинают проектировать и делать других роботов, это уже страшновато. А когда роботы проектируют роботов, а те, в свою очередь, проектируют и делают новых роботов, здесь есть риск потерять управление этой системой  – здесь мы должны быть начеку», – предупредил  А. Сергеев.

С. Гарбук  основной угрозой  назвал нарастающую деградацию человечества – как на уровне личности (снижение когнитивных способностей при перекладывании задач на компьютер), так и на уровне социальных отношений.

Ректор университета Иннополис Александр Тормасов  считает настоящей угрозой современные научные границы математики, которые не позволяют анализировать и управлять развитием алгоритмики искусственного интеллекта. «У нас не хватает способов понимания того, как происходят процессы в ИИ, и это упирается даже не столько в физику, сколько в математику. Ситуация в математике печальна, потому что она подходит к глубинам своего непонимания: в некоторых ее глубинных направлениях могут разбираться буквально 1-2 человека в мире. И хорошо, что хоть они есть», – сказал ученый.

Экспансия искусственного интеллекта в сферу научных исследований может привести к деградации науки, предупредили участники форума. Учитывая, что искусственный интеллект позволяет обходиться без уравнений, «в трудных ситуациях мы его берем и с его помощью перепрыгиваем сложный участок, – напомнил А. Сергеев. – Неужели теперь физики-теоретики будут не нужны, как и прикладные математики, которые думают, каким образом эти уравнения ставить на компьютер?».

Одной из главных угроз развития искусственного интеллекта на сегодняшний день, по общему мнению, является отсутствие регуляторной базы, обеспечивающей безопасность использования этой технологии.

«Когда человечество сталкивается с новыми технологиями, ему нужно научиться их использовать, – сказала  директор по цифровизации госкорпорации «Росатом» Екатерина Солнцева. – После создания ядерных технологий человечество непросто приходило к правилам их использования, чтобы атомная энергия несла свет и тепло, а не смерть и разрушение. Граница между человеком и «цифровой машиной» также призвана определяться принципами и правилами, которые нам только предстоит выработать».

Для этого, считает Е. Солнцева, в перспективе может появиться организация, сходная по задачам с МАГАТЭ в атомной энергетике, которая на международном уровне будет регулировать применение систем ИИ и цифры в целом.