Искусственный интеллект: история ошибок

Ключевые технологии для обработки больших данных были созданы на полвека раньше нынешнего бума ИИ. Их тормозом стали советская бюрократия и хитрая стратегия конкурентов
Искусственный интеллект: история ошибок
IMAGO/SCIENCE PHOTO LIBRARY читайте на MONOCLE.RU

Ключевые технологии для обработки больших данных были созданы на полвека раньше нынешнего бума ИИ.Новости СМИ2 Их тормозом стали советская бюрократия и хитрая стратегия конкурентов

Искусственный интеллект был и остается проектом военного и государственного применения. Он развивался параллельно с системами связи в логике гонки технологий самых мощных держав XX века. О том, как рождался «компьютерный разум», против кого сыграл Айзек Азимов, что пошло не так с советским ИИ и почему России нельзя выключаться из борьбы на этом фронте, — в историческом обзоре Евгения Гарина, директора Центра долгосрочного прогнозирования НТР и СЭР Института экономических стратегий РАН.

Статья по теме: Искусственному интеллекту предстоит начать думать во всех смыслах по-русски

В начале Второй мировой войны в Британии машина Тьюринга (сейчас бы сказали, искусственный интеллект) применялась для дешифровки военных сообщений Германии. Это классическая диалоговая система, которая не работает и не обучается самостоятельно, но совместно с человеком дает результат, превосходящий усилия целой группы криптографов. Такой эффект достигается за счет механизации-автоматизации рутинных операций — решения задач методом комбинаторного перебора. Постепенное развитие диалоговых систем привело к появлению языков программирования-интерпретаторов (Prolog, Basic, DOS), а позже и облачных поисковых систем (Google, «Яндекс»).



Перед Советским Союзом же в начале Великой Отечественной войны стояли другие проблемы, главными из которых было управление экономикой и Вооруженными силами в режиме реального времени, к тому же в условиях эвакуации и перемещения огромного количества промышленных предприятий. Новые мобильные виды вооружений (авиация и десантные войска, бронетанковые войска, железнодорожные войска) способствовали быстрому изменению конфигурации фронтов — на десятки километров в сутки.

Для управления этим арсеналом требовались новые подходы к организации связи, которые позволили бы сократить цепочки передачи информации, создать мобильный центр управления и распределенных шлюзов для подключения узла связи (на тот момент в виде железнодорожного вагона метро, а позже штабного вагона) и в целом централизовать в одних руках гражданскую и военную власти, разорванные между Наркоматом обороны и Генеральным штабом.

Для решения этих задач была организована Ставка Верховного командования, которая вынужденно сменила место дислокации: с началом бомбежек из Кремля ее перевели в небольшой особняк в районе Кировских ворот. Рядом, у станции метро «Кировская», был построен подземный центр стратегического управления Вооруженными силами с оборудованными кабинетами партийной и военной номенклатуры. Был также создан штабной вагон метро, дублирующий стационарный центр управления. Связь центра с фронтами, армиями, оборонными предприятиями обеспечивалось на основе высокочастотной связи (ВЧ), затрудняющей перехват сообщений противников на уровне подключения к кабелям.

Как началась гонка

Постепенно, к 1963 году, этот новый подход мобильного управления трансформировался в СССР в создание Единой автоматизированной системы связи (ЕАСС) — для объединения в единую сеть государственных вычислительных центров ЭВМ и систем связи государственных органов управления. Голосовая связь в ней шифровалась с помощью засекречивающей аппаратуры связи (ЗАС): звуковой спектр речи резался на 40 полос, каждая полоса попадала в свою индивидуальную линию задержки, потом все смешивалось и отправлялось по открытым каналам связи. На приемнике происходил обратный процесс декодировки. Все это делалось на основе магнитного барабана, а механический ключ выставлял положения головок. Поэтому зачастую такую связь называли «вертушкой». Телефонный аппарат ВЧ/ЗАС-связи был статусным символом советской номенклатуры.


Взятый СССР темп в компьютерных технологиях не остался незамеченным — в гонку включились США, главный оппонент Союза в холодной войне. В 1969 году американцы ввели в эксплуатацию информационную сеть ARPAnet (предшественник интернета). Голосовая связь в ней была уже цифровой, шифрование данных осуществлялось на основе сложных криптографических протоколов, которые на уровне вычислительных мощностей 1970-х годов расшифровать было невозможно.

А в 1973 году Военно-воздушные силы США реализовали программу AABNCP (Advanced Airborne National Command Post) — ввели в эксплуатацию командные пункты стратегического звена, размещенные на самолетах («самолет Судного дня»), имеющих большие рабочие помещения, оснащенные аппаратурой связи и обработки информации.

Это сложная система, решающая в режиме реального времени транспортную задачу связи большой мерности, то есть мобильный коммутатор, способный соединять десятки тысяч абонентов армии, служб обеспечения и ОПК. Командный пункт на самолете (борт № 1) создавался с тем расчетом, чтобы не просто уцелеть во время ядерной войны, а восстановить управление уцелевшими частями Вооруженных сил и оборонными предприятиями после обмена ядерными ударами.

Решения транспортных задач связи-управления впоследствии привели к созданию стационарных и мобильных ситуационных центров управления правительства (пример — Центр управления полетами), систем видео-конференц-связи и облачных баз данных, в которых с документами можно работать в удаленном режиме одновременно нескольким людям. На этом же базисе выросли социальные сети, мессенджеры и даже финтех.

Кто создал первый ИИ

Нельзя сказать, что в сфере искусственного интеллекта СССР опережал США, сказывались последствия войны: к 1958 году в США использовалось уже около 4000 ЭВМ, в том числе до 300 крупных универсальных машин; функционировали 83 специальных вычислительных центра, тогда как в СССР к 1959 году работало только 12 вычислительных центров. При этом в Советском Союзе на уровне прототипирования ЭВМ были совершены значимые прорывы, которые не нашли массового применения из-за того, что намного опередили свое время, — например, разработанная в 1959 году в МГУ малая ЭВМ «Сетунь» на основе троичной логики.



Искусственный интеллект: история ошибок
STATISTA: Рынок Искусственного Интеллекта растет ежегодно примерно на 20 %

Она была более быстродейственной (на 58%), чем схожие по характеристикам конкурирующие решения с двоичной логикой, так как позволяла напрямую производить операции с отрицательными числами в сумматорах. Кроме того, она обладала лучшими характеристиками плотности записи данных — при хранении чисел троичная система более экономична по количеству используемых знаков, чем двоичная и десятичная. К тому же «Сетунь» была более надежной, так как в троичной логике проще находить ошибки программирования. Несмотря на все преимущества, к 1965 году на Казанском заводе математических машин было изготовлено только 46 ЭВМ, которые использовались в основном в университетах. Формальным основанием прекращения выпуска «Сетуни» стало затруднение в миниатюризации транзисторов троичной логики. В реальности же основной причиной остановки выпуска была проблема совместимости ЭВМ с троичной и двоичной логикой. Развитие ЭВМ пошло по более простому в масштабировании пути.

После Великой Отечественной войны требования к скорости принятия решений и мобильности центра управления снизились, но многократно возросла роль государственного планирования и прогнозирования для целей скорейшего восстановлении экономики. Академия наук СССР развивает идеи автоматизированного управления экономикой и Вооруженными силами в виде Единой государственной сети вычислительных центров (ЕГСВЦ), а позже, с начала 1970-х годов, в виде Общегосударственной автоматизированной системы (ОГАС). По причине дефицита вычислительных мощностей развивается направление распределения вычислений и хранение данных — сейчас это уже устоявшееся в названии «западная» технология блокчейна. Постепенно в сети ОГАС наращивались мощности, и уже к 1968 году она представляла собой трехуровневую сеть с компьютерным центром в Москве, до 200 центров среднего уровня в других крупных городах и до 20 тыс. локальных терминалов в экономически значимых местах, которые обменивались информацией в реальном времени с использованием существующей телефонной сети. Главное, что могла делать ОГАС, — автоматически собирать экономические данные, хранить их, классифицировать, рассчитывать межотраслевой баланс, то есть делать то, на что из-за объема больших данных уже не был способен человек или даже целые научные институты Госплана.


В ОГАС пересеклись все ключевые на тот момент направления развития ИИ: автоматизированное решение транспортных уравнений большой мерности, решение оптимизационных задач, распределение вычислений и хранения данных. Фактически ОГАС была умнее человека, что определяет ее как сильный искусственной интеллект. Поэтому разговоры о том, когда наступит эпоха сильного ИИ, через два года или к 2035 году, бессмысленны. Мы уже больше полувека живем в мире, где этот «всемогущий монстр» не только был создан, но уже принимал непосредственное участие в государственном управлении.

Что пошло не так

В 1965 году в США издается книга Френка Герберта «Дюна», а в 1966-м публикуется и получает премию «Хьюго» трилогия Айзека Азимова «Основание». Эти два цикла романов объединены одним общим сюжетом. Оба описывают далекое будущее — мир, в котором после долгой войны с роботами, поставившей человечество на грань уничтожения, использование и разработка искусственного интеллекта запрещены. Эти циклы логически завершают тему законов робототехники Азимова — описывают самый негативный сценарий, в котором машины сумели развиться и преодолеть заложенные в них ограничения.

Таким образом США через массовую литературу (а позже и кинематограф) настраивают мировое общественное мнение против использования ИИ. Это излюбленный прием западных стратегов — тормозить разработки конкурентов при тотальном отставании. В начале 1970-х это сработало, поэтому с 2020 года американцы повторяют тот же трюк — активно продвигают идею принятия кодекса этики искусственного интеллекта, одним из условий которого является открытость исследований при разработке ИИ.

В 1968 году Министерство обороны, Центральное статистическое управление и Госплан СССР выступили против создания ОГАС. Основание — возможная утечка секретных данных, угроза потери партийного контроля над управлением экономикой (реализация ОГАС предусматривала переход на систему электронных платежей и автоматизацию математических методов оптимизации загрузки производственных мощностей по технологии основателя линейного программирования, ленинградского математика и нобелевского лауреата Леонида Канторовича). Если бы не бюрократическое сопротивление развитию советского ИИ, «Сбербанк-онлайн» мог появиться на уровне юрлиц на 50 лет раньше. Но идеолог ОГАС Анатолий Китов был исключен из партии, его соратник, основатель кибернетики Виктор Глушков был вынужден отказаться от идеи ОГАС и ограничиться предложением создания отраслевых ГАС.


И только после ХХV съезда КПСС руководство СССР из-за возникших рисков потери управляемости экономики и Вооруженными силами в ходе ядерной войны возвращается к плану ОГАС. К 1982 году из запланированного в ОГАС были реализованы ЦУП, на который возложили задачи по управлению полетами всех советских космических кораблей, пилотируемых орбитальных и автоматических межпланетных станций в режиме реального времени; система связи на основе оптических каналов передачи информации и спутниковой связи (фактически она была построена только в Ленинградской области); автоматизированный расчет новой динамической модели межотраслевого баланса.

Из-за смерти Глушкова в 1982 году и последующего периода перестройки работы по ОГАС были практически свернуты. Из всех направлений развивался только ЦУП. К моменту развала СССР в 1991 году на базе ЦУП реализуются проекты имитационного моделирования сложных систем для решения задач космической и других отраслей экономики.

Хроника внедрений решений ИИ в госуправление в современной России

1999 год. ЦУП создает сектор управления космическими аппаратами.

2002 год. Стартует программа «Электронная Россия» — создание основ единой информационной и телекоммуникационной инфраструктуры для органов госвласти и местного самоуправления.

2006 год. Создана сеть удостоверяющих центров.

2008 год. Создан единый портал госуслуг.

2009 год. Создан Общероссийский государственный информационный центр (ОГИЦ), а на его базе — портал Ogic.ru (фактически это справочник по услугам); разработан проект Общероссийского портала государственных и муниципальных закупок.

2010 год. Создана система межведомственного электронного документооборота, Единый портал государственного кадастра недвижимости и единый государственный реестр прав на недвижимое имущество и сделок с ним. Введена в эксплуатацию Система межведомственного электронного взаимодействия (СМЭВ), на которую перешли 90 органов власти. В 30 субъектах открылись многофункциональные центры предоставления государственных услуг (МФЦ).


2011 год. Реализуется ГИС топливно-энергетического комплекса.

2012 год. Сбербанк создает «СберТех» для решения задач информатизации финансовых услуг.

2013 год. Создана Государственная информационная система государственных и муниципальных платежей (ГИС ГМП).

2014 год. Создана ГИС ЖКХ.

2018 год. Сформирована Концепция «Государство как платформа» для объединения отраслевых и территориальных ГИС.

2019 год. Разработан план создания Национальной системы управления данными и план цифровизации Росстата.

2020 год. Принято решение о создании ГИС на единых методических принципах. Создается «ГосТех», разрабатывается концепция блока обратной связи в государственном управлении в виде Центра управления регионом (ЦУР). ЦУР работает напрямую с обращениями граждан из различных источников, включая соцсеть ВК. Это новый источник данных, альтернативный Росстату, который позволяет перейти к управлению в режиме реального времени на основе инцидент-менеджмента.

Где были конкуренты

К концу 1960-х стоимость ЭВМ и их обслуживания была очень высокой. Для сравнения: себестоимость «Сетуни» в СССР, львиная доля которой приходилась на компонентную базу, составляла 30 тыс. рублей при средней заплате трудящегося 80 рублей. Для работы ЭВМ требовалось создать в помещении особый микроклимат (температура, влажность), строжайше соблюдать чистоту воздуха, не допуская запыления. К тому же вместо одного пользователя машину обслуживала целая команда профессиональных техников, математиков и программистов. Позволить покупку советской ЭВМ в СССР и за рубежом могли только крупные компании, университеты, НИИ, государственные органы. Быстродейственная ЭВМ могла обслуживать много пользователей одновременно, пропорционально деля между ними рабочее время. Но такая схема работы сети из вычислительного центра и сети связанных с ним терминалов пользователей была уязвима в случае ЧС или ядерного конфликта. Для выведения из строя всей сети требовалось уничтожить или просто обесточить только сам вычислительный центр. Но СССР продолжал строить единую сеть на больших ЭВМ. Тогда как на Западе в 1970-х годах упор был сделан на сети с распределенными вычислениями на малых ЭВМ.


Это принципиально иная схема работы — в сеть связывались малые вычислительные машины, каждая из которых служила пользовательским терминалом и могла самостоятельно делать вычисления. С большим объемом информации малые ЭВМ, конечно, работать не могли, в этом был их основной недостаток, но хорошо подходили для распределенных вычислений. Главным преимуществом такой сети была ее выживаемость в случае ядерной войны — даже при уничтожении большей части ЭВМ такая сеть продолжала работать. К тому же малые ЭМВ обслуживались одним человеком и стоили кратно меньше (на уровне стоимости автомобиля среднего ценового сегмента).

Как росло отставание

Отправной точкой создания малого, или домашнего, офисного, персонального компьютера (ПК) является продукт миниатюризации вычислительных процессоров — в начале 1970-х годов компания Intel изобрела микропроцессор и концептуальную архитектурную сборку ЭВМ на единой плате. Опять же таких миниатюрных решений требовал вычислительный центр, размещенный в самолете Судного дня президента США, там такая миниатюризация с точки зрения веса и энергопотребления была оправданна, что наглядно показывает, как тесно связаны между собой разработки ЭВМ, интернет-связи и ИИ.


Искусственный интеллект: история ошибок
расчеты Национального центра развития Искусственного Интеллекта: Опрос 2023 года показал, что большинство организаций во всех приоритетных сферах деятельности либо внедрили, либо планируют внедрение ИИ-решений


Развитие ПК в тот момент разделилось на две ветви: игровые консоли и домашние-персональные компьютеры. Это разделение наблюдается до сих пор и базируется не столько на функционале (современную игровую приставку можно легко использовать как офисный ПК), сколько на архитектуре компоновки. Приставки выпускаются с закрытой архитектурой — в них нельзя вносить изменения или улучшения, в отличие от ПК с открытой архитектурой. Для пользователя это отличие наблюдается только в скорости включения ПК — компьютеры с открытой архитектурой при запуске проверяют всю компоновку, поэтому «включаются» медленнее.

В СССР первый ПК «Электроника НЦ» появился лишь в 1981 году, и отставание в создании аппаратных решений от Apple и IBM только нарастало. Наиболее серьезный разрыв наблюдался в разработке программных продуктов — как в элементарных на первый взгляд текстовых редакторах, редакторах математических формул, инженерных калькуляторах, так и в специализированном программном обеспечении автоматизированного проектирования (САПР).

При этом еще в середине 1960-х в СССР был совершен ряд научных прорывов в прикладной лингвистике и логике: социолог Борис Поршнев в рамках теории дипластий разработал модель семантической синонимии (заимствовав ее из экспериментов с животными), которая сейчас используется в облачных поисковых сервисах и системах автоматического языкового перевода. Философ и социолог Александр Зиновьев создал новые подходы неклассической логики предикатов, которые сегодня применяются при решении сложных семантических поисковых операций, лежат в основе языков программирования высокого уровня. Фактически в СССР наметился прорыв использования математических методов в языкознании, который позже будет объединен под общим наименованием компьютерной лингвистики. И если в 1960‒1970-х годах ЭВМ могли решать транспортные задачи и были незаменимы в задачах оптимизации, то Поршнев и Зиновьев построили базис для решения вычислительными машинами семантических-логических задач, основы методологии алгоритмизации решения, а не решения методами перебора, как в машине Тьюринга.


В чем ждать прорыва

Парадигмальный сдвиг, многочисленные научные прорывы в прикладной лингвистике, логике, информатике и кибернетике не нашли практического применения в СССР. Отчасти этому помешали амбиции самих авторов, которые свои теоретические наработки использовали для опровержения формационного подхода и марксизма. Зиновьев эмигрировал. Работы Поршнева после его смерти были в забвении более 30 лет и начали появляться в печати только после перестройки. Но логика этих работ прослеживается в цепочке создания языков программирования — «интерпретаторов».


Искусственный интеллект: история ошибок
ВШЭ: Наиболее востребованные технологии ИИ в России

Сперва француз Ален Колмероэ создает язык программирования Prolog — в 1970‒1980-х годах возлагаемые на него надежды были столь велики, что создание сильного ИИ прогнозировалось в течение следующих двух трех лет. Билл Гейтс и Пол Аллен при разработке Altair BASIC заимствовали многие наработки Prolog, которые позже нашли свое применение в DOS и Wíndows, а много позже реализовались в Microsoft Excel, который по своей сути является не чем иным, как визуализированным Prolog — матрицей памяти, в которой можно прописывать между ячейками памяти логические связи (по модели синонимии Поршнева в логике предикатов Зиновьева).

Таким образом, опираясь на исторические факты, можно сделать вывод: СССР, опережая западных конкурентов в разработке сетей связи и методов обработки данных, из-за ничем не оправданных ошибок государственного управления наукой умудрился к 1991 году проиграть гонку искусственного интеллекта. С 1991 по 2022 год в США из России эмигрировало более двухсот тысяч ученых, многие из которых работали в сфере информационных технологий и сейчас на треть составляют Кремневую долину. И тем не менее понимание, что ИИ — проект государственной важности, не утрачено: начиная с середины 2010-х Россия постепенно восстановила паритет в разработках, а в течение последних трех лет наращивала темп и сегодня входит в число лидеров по всем пяти основным направлениям ИИ: компьютерное зрение, рекомендательные системы и системы принятия решений, обработка естественного языка, распознавание и синтез речи, перспективные методы и технологии ИИ.


Более слабые позиции у российских разработчиков в задачах масштабирования услуг для конечных пользователей (ChatGPT), а также в периферийном направлении ИИ — виртуальной реальности.

В следующей статье мы расскажем, насколько эффективно на этот раз используется наработанный потенциал, а также ресурс господдержки для формирования рынка по каждому из пяти ключевых направлений ИИ, а также о прогнозе создания в России сильного искусственного интеллекта.

Комментарии 0/0


...
...

Пригласи друга на ZaBeRa и заработай!

Пригласи друга на ZaBeRa и заработай!

Начать зарабатывать

...