Восстание против машин. Как россияне борются с искусственным интеллектом и роботами — | Новости на uzbfilm

Цифровизация российской экономики порождает конфликт: работодатели внедряют всё больше технологий с использованием искусственного интеллекта (ИИ), а сотрудники саботируют нововведения, выводят из строя и даже уничтожают умную технику. «Секрет фирмы» попросил бизнес вспомнить самые яркие эпизоды этого противостояния людей и машин.

Евгений Карпов

владелец продукта ГК «Цифра» (стартап Виктора Вексельберга, цифровизирует промышленные компании в России и в мире)

Борьба за приватность

Дело было в одной из африканских стран. Команда, которая занималась сопровождением проекта цифровизации из Москвы, стала получать сообщения, что система мониторинга одного из экскаваторов регулярно выходит из строя и перестаёт работать. При этом она возвращается к работе через какое-то время без видимых причин.

Инженер, который на месте занимался техническим обслуживанием системы, всегда обнаруживал её работающей надлежащим образом. Диагностика и замена оборудования ничего не давали. Казалось, какая-то магия: система иногда спонтанно отключается, а потом включается.

Спас положение свежий взгляд одного из инженеров. Он попросил показать ему график работы машинистов экскаватора. Сопоставив времена отключения оборудования с фамилиями, он увидел: все отключения происходили во время смены одного и того же человека.

Оказалось, приходя на рабочее место, этот сотрудник аккуратно отсоединял провода питания, а в конце смены присоединял их обратно. С его слов, ему просто не нравилось, что его работу кто-то контролирует.

Напряжение нарастает

Далеко не все рабочие такие мирные, как наш африканский коллега. Некоторые не просто отключают оборудование, а стараются сломать его. Нужно сказать, что это даже безопаснее для злоумышленника, так как испортить технику достаточно один раз, а поймать за руку при регулярных отключениях и найти виновного гораздо проще.

Остаётся один вопрос: как сломать оборудование так, чтобы выглядело так, будто оно сломалось само? Проще всего на производстве имитировать скачок напряжения / короткое замыкание. Но как это сделать? Оказалось, на производственных площадках это не проблема: один из работников взял сварочный аппарат и использовал его на клеммах питания. При этом в оборудовании произошло что-то вроде короткого замыкания с огромной силой тока. Если оборудование не защищено специальным образом, то от такого воздействия оно практически гарантированно сгорит. А понять, что это кто-то сделал специально, будет практически невозможно.

Тем не менее нам удалось отследить это действие по видеокамерам. Но мы потеряли не один комплект оборудования

Немного варварства

Но что делать, если оборудование надёжно защищено и сваркой его не возьмёшь? Если оно защищено от попадания воды и пыли и его можно сколько угодно ронять, крушить и т. д.? И это, как оказалось, не проблема для людей со смекалкой. По крайней мере, для одного рабочего на месторождении за Уралом.

Видимо, наш герой вдохновился средневековыми убийцами-отравителями, которые убивали самые защищённые цели — королей и императоров. Наверное, поэтому он решил использовать для вывода из строя серную кислоту. С помощью шприца он заливал в компьютер кислоту из аккумулятора через незащищённый от таких манипуляций разъём.

Когда этого «маньяка» поймали, его спросили, зачем он пытался вывести из строя систему кругового обзора на экскаваторе, которая ему же самому была полезна? Он сказал, что считал, что через неё прослушивали, как он обсуждал начальство со своими друзьями.

После этого случая нам стало понятно, что у креативного человека всегда найдётся достаточно средств, чтобы уничтожить мирно работающую машину.

Лучший способ защитить оборудование — это делать его полезным для людей, которые его используют, чтобы они помогало им в работе и не занималось только его контролем. Также очень важно объяснять людям, что конкретно делает оборудование, зачем и очень ясно объяснить, что оно не может следить за ними.

Если же система делается только для контроля человека и больше ни для чего, стоит устанавливать её там, куда у человека просто не будет возможности добраться. Так, например, размещают камеры контроля скорости.

Анатолий Ширлин

руководитель представительства SN Maschinenbau в России (производят упаковочное оборудование)

Существует «ночной саботаж»: руководства нет, и работники смен сами определяют свою «жизнь». Вот список основных «атак против машин» на промышленном оборудовании:

    Любая ручная операция занимает в несколько раз больше времени, если это происходит ночью. Это аргументируется отсутствием или пропажей инструмента или оснастки.

    Оператор или наладчик оставляет машину до другой смены в нерабочем положении, мотивируя это тем, что-то случилось с программой, а он не знает что.

    Работники подсматривают пароль для доступа к программам, а потом вносят в неё такие изменения, чтобы машина не работала по причинам, не зависящим от операторов.

Частая ошибка компаний при установке производственных линий ― экономия на персонале. Они надеются, что низкооплачиваемого оператора будет достаточно для полностью автоматической линии. И ему ещё предлагают сдельно-премиальную оплату, когда его зарплата зависит от количества выпущенной продукции. В результате при любом сбое работы сенсора или программы этот оператор начинает совершать действия, которые не понимает вовсе или понимает не до конца. Это приводит к выпуску продукции с браком или к серьёзному сбою линии.

Данил Шелехов

руководитель проекта «Яндекс.Маршрутизация» (логистический сервис)

В большинстве случаев внедрение ИИ в любой сфере — это инструмент для оптимизации процессов и общей пользы, а не кадровая замена. Но не все логисты это понимают, поэтому начинают мягко бойкотировать процесс: они опасаются того, что их могут заменить алгоритмы. Любые попытки прямой конфронтации логиста с системой достаточно легко обнаружить, поэтому сотрудники стараются поставить под сомнение результаты работы ИИ в глазах руководства.

К примеру, начинают недоговаривать значимую для корректной работы системы информацию, которая нигде не зафиксирована, а содержится только у них в голове. Также мы сталкивались с тем, что некоторые логисты на словах преувеличивают критичность технических нюансов, которые легко исправить в процессе доработки. Поскольку другой экспертизы в компании нет, то у руководства возникают сомнения во внедряемых технологиях. Иногда, такая «подрывная» работа приводит к отказу от внедрения проектов по автоматизации.

При работе с одним ретейлером мы столкнулись с тем, что водители компании намеренно саботировали внедрение ИИ. Несколько раз выяснялось, что водители отключали мобильное приложение для отслеживания их движения по маршруту и потом говорили, что телефон разрядился. Чаще они просто намеренно не старались выполнить маршрут: опаздывали, привозили товар обратно на склад и говорили, что не успевают. В результате директор по логистике лично несколько раз проехал по разным маршрутам с секундомером, чтобы доказать обратное.

В некоторых случаях автоматизация приводит к устранению неэффективности, к которой сотрудники уже привыкли. К примеру, водитель развозил товар по семи точкам, а всё остальное время тратил на решение личных вопросов. Теперь система строит для него маршруты не из семи, а из пятнадцати точек. С точки зрения водителя это будет выглядеть не как оптимизация, а как попытка дать ему дополнительную работу за ту же зарплату.

Чтобы исправить отношение персонала к внедрению ИИ, иногда достаточно откровенной беседы с руководителем проекта, на которой сотрудник может честно высказать свои опасения по поводу внедрения новых технологий.

Дмитрий Корнев

руководитель отдела по развитию бизнеса PIX Robotics (разработчик ПО)

При внедрении роботов в компанию по установке систем видеонаблюдения произошла весьма интересная ситуация. Сотрудники вроде как приняли роботов и совместную с ними работу, но решили обхитрить одну систему. Им не понравился строгий режим программы по учёту времени прихода-ухода, когда нельзя было опаздывать ни на минуту. В итоге три программиста, которые работали с роботами, решили «договориться» с машинами и создать дополнительную функцию, которая позволяла по звонку с мобильного на определённый номер показывать в системе время прихода на работу.

Алексей Артеменко

региональный директор компании Qlik в России и СНГ (автоматизируют сбор и обработку данных)

Бывает, что нововведениям всячески противодействуют и топ-менеджеры. В одной из крупных российских компаний один из менеджеров по коммерции намеренно затягивал ввод системы, поскольку транспарентность бизнеса, которую она открывала, шла вразрез с его личными интересами.

Историческая параллель

Сопротивление новым технологиям — явление не новое. Чуть более 200 лет назад по Англии прокатилась волна стихийных протестов против индустриальной революции. Восставшие массово ломали станки, потому из-за них на фабриках нужно было меньше людей — рабочих увольняли, а у оставшихся падала заработная плата и ухудшались условия труда.

Протестующих называли луддитами, потому что они считали своим предводителем некоего Неда Лудда, который якобы ещё в 1779 году первым сломал два чулочных станка. В начале XIX века подавлять восстание пришлось силой. На это ушло пять лет лет, с 1811-го по 1816-й.

Тогда в Англии людей лишили работы новые эффективные станки. Сегодня похожим образом искусственный интеллект и другие новые технологии делают работу некоторых людей зачастую более тяжёлой — или вообще лишают её.

Сопротивления изменениям — один из главных тормозов цифровизации российского бизнеса, следует из результатов исследования консалтинговой фирмы KMDA, выполненного при поддержке Microsoft. Авторы опросили более 700 представителей российских компаний из 27 отраслей и выяснили, что 80% из них находятся в процессе цифровой трансформации, а в среднем бизнес инвестирует в неё 3–10% от годовой выручки. Это укрепляет почву для современного неолуддизма.

Коллаж: «Секрет Фирмы», depositphotos.com

Ещё новости