Илон Маск смотрел далеко вперёд. Он хотел построить конвейер будущего для производства Model 3. Он представлял: полностью автоматизированная линия, роботы делают всё, люди не нужны. Быстро, чисто, эффективно.
Конвейер был построен. Это было чудо техники — суперсовременная автоматизация, которую никто раньше не видел.
Но когда его включили, всё развалилось. Роботы ломали друг друга. Система не справлялась с неточностями. Линия работала в режиме постоянных перебоев. Маск пытался закрыть проблему людьми, но конвейер был спроектирован так узко, что люди не могли вмешиваться. Они не поместились бы — и это правда.
Результат? На улице рядом с заводом установили палатку длиной 300 метров. Совсем простой конвейер без всякой автоматизации. На нём вручную собирали Model 3. И вот что поразительно — ручной конвейер под палаткой работал лучше, чем супер-конвейер.
Маск потом похвалил палатку: мол, "это тоже неплохой вариант". Но в реальности это было поражением технологии. Он забыл главное: лучшая система — это не та, которая выглядит лучше на чертежах.
Denver International Airport 1995: конвейер сломал аэропорт
Когда аэропорт открылся, на нём установили систему автоматической сортировки багажа. Это было тогда прорывом — штрих-коды, роботы, компьютеры. Никаких людей, всё как надо.
Система стоила колоссально — перевыполнен бюджет, сроки срывались, и, когда система наконец работала... она не работала.
Первые несколько лет аэропорт не мог нормально открыться. Система теряла чемоданы. Иногда чемоданы ехали туда, куда их никто не просил. Частой беды в системе привели к многомиллионным убыткам. Пришлось вернуться к людям, которые сортируют багаж вручную. И вот тогда всё заработало.
Инженеры узнали что-то важное: человек может адаптироваться к непредвиденным ситуациям. Механизм — нет.
NHS Великобритания 2010s: медицина не поддаётся автоматизации
Национальная служба здравоохранения Великобритании решила совершить чудо. Они запустили проект "Connecting for Health". Идея: цифровизировать всю английскую медицину. Электронные карты пациентов, интеграция всех больниц, один унифицированный ИИ-врач, который ставит диагнозы.
Проект должен был стоить 2,3 миллиарда фунтов. На деле потратили более 12 миллиардов. Система так никогда и не заработала как надо.
Почему? Потому что медицина — это не математика. В каждой больнице свои процессы. Каждый врач имеет свой опыт. Пациент никогда не повторяет симптомы точно так же, как в учебнике. Система, которая пытается унифицировать это, просто не может существовать.
Проект был постепенно свёрнут. Части системы работают до сих пор, но это не то, что планировалось.
IBM Watson Health: AI, который не умеет лечить
IBM инвестировала миллиарды в Watson — систему ИИ для медицины. Идея была волшебная: ИИ анализирует медицинскую литературу, смотрит на пациента, предлагает лечение.
Но когда система начала давать рекомендации онкологам, выяснилось: она рекомендует лечение, которое небезопасно. Система была обучена на данных, которые имели смещения (bias). Она выучила ошибки вместе с правильной информацией.
IBM инвестировала ещё больше денег, но ничего не помогло. В конце концов, они продали Watson Health другой компании. На обслуживание ушло столько денег, что сама идея "AI-врач" поблёкла.
Zillow 2021: алгоритм, который потерял 500 миллионов долларов
Компания Zillow решила, что сможет предсказать цены на жилье. Они создали алгоритм, который смотрит на исторические данные и предсказывает, на какой цене дом будет продан.
На основе этого предсказания Zillow начала скупать дома. Алгоритм говорил: "Этот дом стоит 500 тысяч. Скупим его за 450 и будем жить богато."
Но в 2021 году рынок переменился. Спрос на жильё взлетел, цены скакнули. Алгоритм не мог реагировать быстро. Он покупал дома по старым предсказаниям, а потом оказывалось, что дом нельзя даже продать по той цене, за которую они его купили.
За несколько месяцев Zillow потеряла более 500 миллионов долларов. Они прекратили программу скупки. Компания выучила горький урок: алгоритм, который смотрит только на прошлое, не может предсказать будущее.
GE Predix: когда гигант забыл, что такое программное обеспечение
General Electric решила стать компанией будущего. Они создали платформу Predix — мощное ПО для промышленности. Идея: все производители будут использовать Predix для управления оборудованием.
Но GE забыл главное: они были инженеры, а не программисты. Они пытались конкурировать с компаниями, которые рождены в коде. Predix была сложна, требовала специалистов, которых было мало. Никто не хотел её учить.
GE потратила миллиарды. Потом просто прекратила проект. Компания, которая сделала весь мир, не смогла сделать хорошее программное обеспечение.
FoxMeyer 1996: когда система не может обработать успех
FoxMeyer был крупным фармацевтическим дистрибьютором. Они решили автоматизировать свой склад. Купили мощную систему, которая должна была обрабатывать огромное количество заказов.
Система была испытана, всё работало. Но когда её запустили на полную мощность, выяснилось: она может обрабатывать 2000 заказов в минуту, а клиентов приходило 500 000 заказов в день. Система просто переполнилась.
Заказы терялись. Аптеки не получали лекарства. FoxMeyer потеряла доверие и в итоге обанкротилась. Компания была позже куплена конкурентом.
Что общего?
Во всех этих историях люди забывали одно: технология должна служить людям, а не наоборот.
Tesla забыла, что робот — это помощник, а не волшебник. Denver забыла, что человек может адаптироваться. NHS забыла, что медицина — это искусство, а не только наука. Zillow забыла, что будущее непредсказуемо. GE забыла, что технология требует специалистов.
Главный урок? Технология никогда не решит проблему, если неправильно её использовать. Лучший конвейер — это тот, который работает. Лучшая система — это та, которую люди готовы использовать.
История показывает: инженеры часто забывают про людей. Но люди — это не ошибка системы. Люди — это главное в системе.