В высокотехнологичном шаге, который мы все можем поддержать и который совсем не является антиутопическим, мэрия Барселоны использует данные с камер своих городских автобусов для продвинутого ИИ, но они клянутся, что не используют эти записи для выдачи штрафов плохим водителям. Пока.
ОБНОВЛЕНИЕ 06ДЕК2025: бот для выдачи штрафов прибывает в Чикаго.
В прошлом месяце Чикагское транспортное управление (CTA) заключило контракт с Hayden AI на оснащение шести своих городских автобусов считывателями номерных знаков с искусственным интеллектом, предназначенными для выявления незаконно припаркованных транспортных средств в районе, ограниченном Норт-авеню, Рузвельт-роуд, Мичиганским озером и Ашленд-авеню.
Как и в аналогичных пилотных проектах в Барселоне и Нью-Йорке, технология Hayden AI собирает информацию о транспортных средствах, незаконно блокирующих полосы для автобусов и велосипедов, а затем передает свои «выводы» на рассмотрение человеку для подтверждения. Если рецензент согласен с ИИ, он может выписать штраф в размере 90 долларов за парковку на автобусной полосе, 250 долларов за блокирование велосипедной полосы, 50 долларов за парковку на недействующих парковочных автоматах за пределами центрального делового района и 140 долларов за личные транспортные средства, припаркованные в коммерческих зонах погрузки.
Несмотря на эти hefty штрафы, мэр Чикаго Брэндон Джонсон быстро подчеркивает, что цель программы — не получение дохода.
«Каждый чикаговец заслуживает безопасную, надежную и эффективную транспортную систему», — заявил мэр Джонсон в своем заявлении. «Поддерживая чистоту автобусных и велосипедных полос от незаконно припаркованных транспортных средств, пилотный проект Smart Streets помогает нам защитить самых уязвимых участников дорожного движения, одновременно улучшая ежедневные поездки для пассажиров по всему городу».
В официальном релизе не упоминается тот факт, что система Hayden AI принесла городу почти 21 миллион долларов дохода всего за несколько месяцев, несмотря на то, что тысячи оштрафованных ничего не нарушали.
Мы писали о некоторых из этих проблем еще в июне. Ниже вы можете прочитать оригинальную статью и сообщить нам, что вы думаете о «неприбыльных» заявлениях Чикаго в комментариях.
Барселона и ее зона низких выбросов на кольцевых дорогах завоевали множество поклонников, ограничив движение ICE в центре города. Последняя идея города по продвижению массового транспорта — это внедрение системы искусственного интеллекта, разработанной Hayden AI, для автоматического контроля за соблюдением правил на специально отведенных полосах и остановках с целью улучшения движения автобусов. Но хотя это, кажется, работает как задумано, это вызывает совершенно другие вопросы.
«Автобусные полосы предназначены для обеспечения надежного, быстрого и удобного обслуживания общественного транспорта. Но частные автомобили, незаконно использующие автобусные полосы, делают это невозможным», — объясняет Лайя Бонет, первый заместитель мэра по городскому планированию, экологическому переходу, городским услугам и жилищному строительству мэрии Барселоны. «Мы рады сотрудничать с Hayden AI, чтобы узнать, где возникают эти проблемы и как они влияют на наше обслуживание общественного транспорта».
В настоящее время система, работающая в рамках пилотной программы на городских маршрутах H12 и D20, использует камеры, установленные на электрических автобусах города, для обнаружения транспортных средств, совершающих статические нарушения на автобусных полосах и остановках (т. е. остановка или парковка там, где не следует). Затем система Hayden AI анализирует эти данные и предоставляет статистическую информацию о том, что она фиксирует во время ежедневного маршрута автобуса.
Hayden AI утверждает, что, хотя система фотографирует и записывает видеопоследовательности, а также собирает контекстную информацию о нарушении, ее камеры не записывают номерные знаки или людей, и штрафы водителям или владельцам транспортных средств не выписываются.
Пока все хорошо, не так ли? Но именно то, что произойдет после окончания шестимесячного пилотного проекта, кажется, должно вызывать тревогу.
Большой Брат Автобус наблюдает
Записи вручную просматриваются сотрудником Transports Metropolitans de Barcelona (TMB), который, по сообщениям, просмотрел около 2500 нарушений, выявленных ИИ только за май. Но, хотя система не используется для выдачи предписаний во время пилотной программы, она легко могла бы это сделать.
И, на самом деле, это уже произошло… и ИИ ужасно облажался.
ИИ выписывает тысячи неправильных штрафов
Когда ИИ получил возможность выписывать цитаты в Нью-Йорке ранее в этом году, он выписал более 290 000 штрафов (да, вы не ослышались: двести девяносто тысяч) всего за три месяца, принеся городу почти 21 миллион долларов дохода. Была только одна проблема: тысячи водителей ничего не нарушали.
Более того, штрафы, сгенерированные камерами с ИИ, должны были быть одобрены только после проверки человеком, но либо этого не произошло, либо это произошло, и проверяющий человек не обратил внимания, либо (возможно, худший вариант) нарушения были ошибками или галлюцинациями, и человек-проверяющий не смог отличить их.
В тестах OpenAI своих новейших моделей рассуждений o3 и o4-mini компания обнаружила, что модель o3 галлюцинировала в 33% случаев во время тестов PersonQA, в которых боту задаются вопросы об известных личностях. При ответах на короткие фактические вопросы в тестах SimpleQA компании OpenAI заявила, что o3 галлюцинировала в 51% случаев. Модель o4-mini показала себя еще хуже: она галлюцинировала в 41% случаев во время теста PersonQA и в 79% случаев в тесте SimpleQA, хотя OpenAI заявила, что ее худшая производительность ожидалась, поскольку это меньшая модель, предназначенная для более быстрой работы. Последнее обновление OpenAI для ChatGPT, GPT-4.5, галлюцинирует реже, чем ее модели o3 и o4-mini. Компания заявила, что при выпуске GPT-4.5 в феврале модель имела частоту галлюцинаций 37,1% для своего теста SimpleQA.
Я не знаю, как вы, ребята, но если бы у нас был местный дорожный инспектор, который ошибался бы в 33% случаев (в лучшем случае), я был бы удивлен, если бы он долго сохранял свою работу. Но ИИ? У ИИ есть многомиллиардный поезд хайпа и армии недообразованных верующих, говорящих о сингулярностях и создании себе блондинистых роботов с грудями. И как только ИИ начнет выписывать штрафы ИИ, который управляет вашим роботакси, он сможет просто позвонить своему приятелю ИИ из банка, чтобы тот перевел ваши деньги. Никаких людей не требуется, ни на каком этапе, и экономика продолжает работать.
Но, типа, я уверен, что все будет хорошо. Примите будущее и все такое… верно?
ИСТОЧНИКИ: Hayden AI, через Chicago Sun Times, Forbes, Motorpasión.
Если вы подумываете о переходе на солнечную энергию, всегда полезно получить предложения от нескольких установщиков. Чтобы убедиться, что вы найдете надежного, заслуживающего доверия установщика солнечных батарей рядом с вами, который предлагает конкурентоспособные цены, ознакомьтесь с EnergySage, бесплатным сервисом, который позволяет вам легко перейти на солнечную энергию. У них есть сотни предварительно проверенных установщиков солнечных батарей, конкурирующих за ваш бизнес, что гарантирует вам высококачественные решения и экономию 20-30% по сравнению с самостоятельной работой. Кроме того, им можно пользоваться бесплатно, и вы не получите звонков от продавцов, пока не выберете установщика и не поделитесь с ним своим номером телефона.
Ваши персонализированные предложения по солнечной энергии легко сравнивать онлайн, и вы получите доступ к беспристрастным консультантам по энергетике, которые помогут вам на каждом этапе. Начните здесь.
Лучший комментарий от Билла Керра
Понравилось 10 людям
ИИ был забавен, когда это была шутка, трюк для вечеринок. Чем больше он становится неотъемлемой частью правительства и бизнеса, тем больше мы будем болезненно осознавать его недостатки. Основная проблема заключается в том, что ИИ лучше уверенно звучит правильно, чем быть правым.
Посмотреть все комментарии