“Полностью автономный” автомобиль Tesla видит пешехода и решает не сбавлять скорость

В прошлом месяце Tesla выпустила версию 11.4.1 (уже!) своего софта с громким и, казалось бы, не оставляющим ни у кого сомнений названием – «Полный автопилот» "Full Self-Driving Beta". Среди обновлений (https://arstechnica.com/cars/2023/05/teslas-full-self-driving-sees-pedestrian-chooses-not-to-slow-down/) - новые алгоритмы, определяющие, каким будет поведение автомобиля рядом с выявленным рядом или переходящим дорогу пешеходом: «не останавливаться или замедляться или пропустить». Здорово: искусственный интеллект в действии!

Но тут же в Twitter (ха, также принадлежащим Маску) появилось 6-секундное видео (https://cdn.arstechnica.net/wp-content/uploads/2023/05/WholeMarsBlog_1080p1657807019703943169.mp4?_=1) (уже 1.7 млн просмотров), в котором демонстрируется, что сенсоры Tesla обнаружили человека на пешеходном переходе!!, но вместо того, чтобы затормозить и пропустить, машина просто проезжает мимо. В общем Tesla тут поступает, не как «человеколюбивый» (по законам робототехники Азимова) ИИ, а как невоспитанный биологический водитель.

Что скажу. Тезисно.

1. Только мне кажется, что Tesla тестирует свой софт на владельцах машин? Замечу, людях не бедных, ибо даже «самая дешевая» Tesla - выше среднего ценового сегмента. Кстати, сейчас подключение "Full Self-Driving Beta" – опция платная и стоит 15 000 долларов, как небольшой автомобиль.

2. Только мне кажется, что в этом тестировании владельцы Tesla участвуют «вслепую»? При этом вслепую они рискуют по-крупному: стать виновниками аварий или гибели людей (тут пешеходов), или потерять здоровье и даже жизнь свою и своих близких в машине? Эти небедные (но синоним ли умные?) владельцы Tesla вообще отдают себе отчет, чем они рискуют? И ради чего? Рискуют своей жизнью или свободой ради развития софта Tesla?

3. Только мне кажется, что Tesla при этом действует умнее покупателей своих машин, ибо, называя для привлечения покупателей свой софт "Full Self-Driving", регулирующим органам постоянно сообщает, что она никогда!! не выйдет за рамки уровня SAE 2, требующего постоянной бдительности от человека на водительском сиденье, который остается единственно!! ответственным!! за действия автомобиля?

4. Только мне кажется, что разрабатывая софт для автомобилей – объекта повышенной опасности для владельца и окружающих, Tesla продолжает действовать в духе agile, как действуют компании, разрабатывающие софт для ноутбуков и смартфонов – главное, гибкость и темпы развития, а безопасность и надежность вторичны - как получится, а если ошибемся – в новой версии подправим, а вновь ошибемся, еще заплатку поставим?

5. Только мне кажется, что надежды мейнстримных аналитиков на «сокращение числа аварий в 10 раз при переходе на беспилотность» несбыточны, ибо основаны на том, что ИИ автопилота не будет совершать ошибок? А он будет! Правда, это будут ошибки agile-софта и разработчиков с культурой программистов. Кстати, Национальное управление безопасности дорожного движения США уже неоднократно отмечало, что автопилот Tesla, действуя строго по программе, нарушает?! правила дорожного движения. В частности: небезопасно ведет себя на перекрестках, проезжая прямо через перекресток из полосы только для разворота, без остановки въезжает на перекресток, контролируемый знаком "Стоп", и т.д.

6. Только мне кажется, что назрел и перезрел вопрос обязательного регулирования (в том числе в российских «регуляторных песочницах» для автобеспилотников), чтобы такие автомобили были оборудованы специальным сигналом - видимым всем участникам движения, включая пешеходов, что данная машина в данный момент едет на автопилоте? Предупрежден, значит, осторожен и, возможно, спасен (тут от ИИ).

Источник: arstechnica.com

Комментарии: