ЦИФРОВОЙ ХЕРБАЛАЙФ

Или эпоха цифрогенных катастроф 

Два извечных вопроса: «Кто виноват?» и «Что делать?»
Середина и конец прошлого века ознаменовались колоссальными техногенными катастрофами. Взрывы на химических заводах, розливы нефти, аварии на ядерных объектах. Все и не перечислишь. Причем, казусы, если можно так назвать аварии, унесшие тысячи, а иногда и сотни тысяч жизней, случались не только в технически отстающих странах, но и у лидеров прогресса. О скольких мы не знаем или нам помогли не заметить? Радует, что как правило, виноватых нашли. Чаще всего даже наказали, хотя не факт. Что делать прописали в регламентах. Регламенты стали инструкциями и индустриальными стандартами. Автоматика дублируется, ставится «защита от дурака», проводятся обучения и аварийные тренировки, назначены проверяющие, введены статьи в УК об ответственности. 

Но новый век сделал новый прорыв. Цифра! Нет, цифра была уже давно. И использовалась уже давно. Но масштаб и возможности стали по истине завораживающими. И вот уже мы стоит на пороге создания нового вида думающих существ. Думающих? Ну, по крайне мере мы так думаем.  

Вы все слышите ежедневно, как думающие машины заменят людей. Вот прям на днях была очаровывающая статья одного из популяризаторов, что ИИ войдет в цепочки поставок как к себе домой и станет полноправным участником. Да что там участником, хозяином. Я не против. Даже за. Просто, прежде чем мы отдадим бразды правления новому хозяину, давайте поговорим, что управление это не только про полномочия и принятие решений, но и про ответственность. 

И так из ленты новостей.
- Электромобили, управляемые ИИ, в момент за секунду до аварии склонны передавать управление водителю. Как бы понимая, что лимит принятия решения и управляемости исчерпан.
- Друзья, ехавшие на свадьбу по GPS вылетели с недостроенного моста. Живых не осталось. 

Эти простые примеры наглядны, давайте их скоррелируем на компанию. Вот вы внедрили прогрессивный ИИ на производственном предприятии. Штука пока еще дорогущая, тк просто подключением ЧатДжиПиТи не обойдешься ввиду частых галлюцинаций. Скорее всего у вас еще и большая и вертикально-интегрированная компания со сложными процессами. Иначе зачем вся эта суета. Компенсация дороговизны конечно же в сокращении персонала. «Логисты» и «цепочники» (управление цепочками поставок) ушли на биржу труда наниматься в курьеры, пока их работу на забрали дроны. Идиллия. 

Вопрос номер один.
Кто будет проверять проверяющего?
Нет, вы можете оставить одного «логиста» присматривать за хозяйством. Но это как в автономно пилотируемый автомобиль посадить человека, который только сдал на права и редко когда сам рулит. Он одни не сможет держать в голове такое количество процессов. Кроме того, он не сможет перейти на ручное управление ввиду отсутствия опыта экстремального вождения. Да и просто утраченных/не приобретенных навыков. Особенно в критической ситуации. 

Вопрос номер два.
Зная, что такое глобальные цепочки поставок и как их регулярно «люто колбасит» - кто будет «тушить пожар»?
Вот ИИ сделал ошибку. Галлюцинации. Или неверно интерпретировал внешние данные, тк на все влияющие факторы датчики не повесишь. А уровень цифровизации по регионам будет отличаться. Вы поставите второй ИИ, чтобы он перепроверял первый? Помним, что логистов вы уже сократили. Создавать центры быстрого реагирования? Так методы решения от индустрии к индустрии будут разные. Да и у компаний своя специфика, в которой нужно разбираться. Значит ваше производство может встать. И помощи не видно. А если так, почему бы вашим конкурентам не воспользоваться такой чудесной возможностью для «агрессивного слияния и поглощения»? А ведь такую возможность можно и организовать. При огромном количестве каналов поступающих данных умышленно исказить часть из них не такая уж и «высшая математика». При помощи такого же анти-ИИ. А проще - вручную.   

Вопрос номер три.
За чей счет банкет?
Согласно существующим регламентам, предприятие в лице руководителя, несет ответственность за все происшествия, случившиеся на его территории или в зоне его ответственности. Делегировать полномочия на ИИ? Уволить ИИ с записью в трудовую книжку? Взыскать с ИИ причинённый ущерб?
Поставщики программного обеспечения, даже очень богатые (особенно если очень богатые) вам порекомендуют еще раз внимательно читать лицензионное соглашение. Даже если у вас крутые юристы, на споры могут уйти годы. А у вас предприятие стоит, цепочки поставок рухнули, запасы с одной стороны закончились, с другой стороны склады переполнены. На перевод производства в «холодный цикл» надо три недели и дофигалион убытков.  

Вопрос номер четыре.
Из мультфильма про Карлсона, который живет на крыше.
Что про это скажет мама (зачеркнуто) страховая? Оставлю этот вопрос открытым, так как ответ практически очевиден.
А что про это скажет папа (зачеркнуто) надзорные органы?  Вопрос тоже оставлю открытым, так как ответ зависит от наличия регламента. Точнее, пока его отсутствия для ИИ продуктов. 

Чтобы рассказ не выглядел печальным, анекдот в студию:
Один англичанин раз и навсегда объяснил мне принцип употребления пассивного залога: «Всегда употребляйте его, когда вы хотите снизить уровень своей ответственности. Не вы сделали ошибку. Ошибка была сделана.»