Сталь, подшипники и искусственный интеллект

Пару дней назад мы с другом обсуждали проблемы перевода бизнес-процессов на рельсы искусственного интеллекта — мой собеседник как раз занимается этим в крупной европейской корпорации. Из его опыта следует, что перевод бизнес-процессов на ИИ-ориентированный подход резко сокращает потребность в рабочей силе, но при этом столь же резко повышает требования к квалификации оставшихся сотрудников, управляющих агентной разработкой и выстраивающих процессы на базе ИИ. Грубо говоря, работу девяноста процентов "белых воротничков" в компании уже сейчас можно свести к подробной инструкции из десятка-другого пунктов для ИИ-агента, принимающего те или иные решения из заложенных в него вариантов. Даже те бизнес-процессы, что на первый взгляд кажутся сложными, после глубокого анализа оказываются сводимыми к довольно короткой, детерминированной инструкции. Однако человек, выстраивающий в компании эти ИИ-шные процессы, должен быть, как говорится, и швецом, и жнецом, и на дуде игрецом — хорошо разбираться в теории систем, теории автоматизированного управления, кибернетике, информатике, разработке ПО, тестировании, продуктовом дизайне, финансах и бизнесе. Согласно тезису моего друга, высокотехнологичные компании вскоре будут избавляться от девяноста процентов сотрудников, которые не могут работать на таком уровне абстракции и с таким глубоким пониманием всех процессов компании, оставляя только десять процентов самых высококвалифицированных и глубоко разбирающихся в теме людей. Но с этим тезисом можно поспорить, ведь такой подход ведёт к появлению критических проблем, решения для которых ни у кого пока что нет.

Первая проблема такого подхода с построением бизнеса с маленьким, но высококвалифицированным управленческим ядром и множеством настроенных автоматизированных процессов состоит в так называемом "автобусном факторе", от которого все более или менее крупные компании как раз стараются по возможности избавиться. Если всё управление компанией сведено к малому количеству сотрудников, то потеря каждого из них вследствие болезни, увольнения или попадания под колёса автобуса становится катастрофой. Если огромная часть бизнес-процессов и понимания этих процессов завязана на одного человека с огромным опытом и квалификацией, то этот человек становится критической шестерёнкой, выход из строя которой может привести к полной остановке всего корпоративного механизма. А второго такого на рынке труда не найти — во-первых, такие сотрудники ценятся на вес золота и могут выставлять любые условия, а во-вторых, большую часть открытого предложения рынка труда занимают те, кого вы или ваши конкуренты недавно уволили за недостаточную квалификацию — пойди ещё найди нужного тебе специалиста.

Вторая проблема ИИ-ориентированного подхода состоит в разрыве контура воспроизводства специалистов: опытные специалисты вырастают из молодых и неопытных — если рабочие места остаются только для опытных, а неопытные не могут работать на таком уровне абстракции, а только мешают и поэтому не допускаются до работы, то выращивание новых опытных специалистов из неопытных становится невозможным, ведь чтобы чему-то научиться, нужно набивать шишки на своём опыте. Дополнительная проблема состоит в том, что использование ИИ выжигает способность к обучению у неопытных специалистов и не даёт им стать чем-то большим, чем "мясной прокладкой" между менеджером и чат-интерфейсом искусственного интеллекта без какого-либо понимания своих действий, транслирующей вопросы от менеджера к ИИ и ответы от ИИ обратно к менеджеру. Об этом же сейчас бьют в колокола школьные учителя и преподаватели университетов — использование ИИ ломает устоявшийся классический процесс обучения, что с этим делать, никому не известно, а перестраивать всю систему образования с нуля под новые реалии ни у кого не хватает политической воли. Всё это создаёт ситуацию, напоминающую ситуацию с доядерной сталью в середине XX века — вся произведённая после начала атмосферных ядерных испытаний сталь содержала в себе огромное количество радиоактивных изотопов, поэтому на рынке стала особенно цениться низкофоновая сталь, выплавленная до изобретения ядерной бомбы. Такая сталь использовалась для производства счётчиков Гейгера, медицинских аппаратов для радиотерапии, фотоники и прочих устройств, работающих с излучением и чувствительных к наличию радиоактивных изотопов. Только совместный запрет США и СССР атмосферных испытаний ядерного оружия позволил за несколько десятков лет снизить уровень изотопов в выплавляемой стали до приемлемого уровня. То же самое происходит сейчас с интеллектуальным трудом — возможно, специалисты, получившие образование и набравшиеся опыта в эру до развития искусственного интеллекта, станут цениться так же, как непорченная доядерная сталь.

Третья проблема этого подхода состоит в том, что он делает экономически несостоятельной систему образования. Философ и производитель военных дронов Алексей Чадаев в одном из своих недавних эфиров рассказывал о том, почему в современной России не могут построить индустрию производства электрических двигателей для дронов и приходится массово закупать их в Китае. Основная сложность состоит в производстве подшипников для этих электродвигателей, хотя, казалось бы, производство подшипников — далеко не рокет-сайенс. Дело в том, что технические особенности процесса производства подшипников таковы, что каким бы хорошим и высокоточным ни был станок, качество производимых на нём подшипников подчиняется статистическому закону нормального распределения: из 100 произведённых подшипников 5 будут идеального качества, 15 — отличного, 30 — хорошего, 30 — нормального, 15 — ужасного и ещё 5 — полный брак на выброс. Для дроновых электродвигателей нужны подшипники идеального или хотя бы отличного качества. Но что делать с остальными подшипниками — качеством похуже? Нужны массовые индустрии, которые потребляют подшипники хорошего, нормального и даже ужасного качества — например, производство велосипедов, газонокосилок, автомобильных колёс и так далее. В Китае такие индустрии есть и их достаточно для утилизации всех производимых подшипников, в Советском Союзе такие индустрии тоже были, а в современной России их недостаточно. Оставлять только подшипники приемлемого качества, а остальные выбрасывать — не вариант: это сделает подшипники "золотыми" по цене и неконкурентоспособными с китайскими. Поэтому производство подшипников в России становится экономически невозможным даже несмотря на простоту технического процесса. Мы можем провести ту же аналогию с образованием: нельзя построить систему образования, когда на рынке труда есть место только для десяти процентов её самых гениальных выпускников, а остальные девяносто процентов "средних умов" в экономике утилизировать некуда.

Из-за вышеперечисленных проблем долгосрочные эффекты построения ИИ-ориентированных бизнес-процессов могут оказаться фатальными для экономики, общества и самих внедряющих их компаний. Но конкуренция мотивирует корпорации всё равно перестраивать всё на ИИ-рельсы — если этого не сделаешь ты, то это сделает твой конкурент, и твоя компания проиграет конкуренцию и погибнет быстрее, чем успеет испытать долгосрочные негативные эффекты внедрения ИИ. Это всё очень похоже на классическую трагедию общин из теории игр, когда индивидуальные выигрыши в итоге приводят к коллективному проигрышу, а точнее, к полной катастрофе. Возможно, в будущем государственное управление обществом и экономикой научится просчитывать такие долгосрочные негативные эффекты технологических преобразований и заранее предотвращать скатывание социально-экономических систем в режимы работы, ведущие к катастрофе. Но это звучит как фантастика...