Наука ⇒ Електрически и безшофьорни автомобили

[rki]

В продължение на горния пост - поредната случка с малоумниците от култа към мъск/тесла - прясна, прясна:

[Dinain]

когато се появи AI съизмерим с човешкия интелект и личност, тогава ще може да се разглежда този философски и правен въпрос.
А дотогава - отговорност носят създателите, производителите и регулаторните органи допуснали една опасна машина да бъде въведена в масова експлоатация или пък този който експлоатира машината ако нарушава инструкциите за експлоатация. Както е и при уредите и машините с липса на AI.

Е точно затова иде реч, бре. Защото между двете ще минат няколко десетилетия, и в реалния свят инциденти има и ще има, колкото и да философстваме.

Колата с AI в проливен дъжд не видяла пресичащия пешеходец и го сгазила. В случая с човек-шофьор има на кого да се търси отговорност. А в случая с AI?

Сега Форд не ги съдят за всяка катастрофа с кола тяхно производство, нали?

Обаче някои щати в момента блокират идеите за автономни коли точно по тези съображения, и ако няма ясна законова рамка, автопроизводителите също няма да искат да пуснат такива на пазара, с риск после да ги спукат от дела за обезщетения за щети и жертви. И въпросните местни власти също, защо им е да си слагат такъв таралеж в гащите?

[Bruchpilot]

...
Колата с AI в проливен дъжд не видяла пресичащия пешеходец и го сгазила. В случая с човек-шофьор има на кого да се търси отговорност. А в случая с AI?
...

Демек колата с AI сама изпълзяла от гаража и сгазила човека?

[rki]

Ми то е елементарно, дори в закона го пише - при намалена видимост се движиш с намалена скорост, съобразена с условията, така, че да може да реагираш на внезапно изскочили препятствия или ситуации на 10, 15, 20 или там колкото метра ти е видимостта. Или пък направо спираш.
Ако на автономния автомобил софтуерчето е неспособно да преценя и да се движи в такива условия - няма какво да прави на пътя въобще. Спира се от експлоатация и когато оправят бъга - да заповядат за нов лиценз.

Ако пък ако в ръководството пише, че в подобни условия автономния софтуер трябва да се деактивира и водача сам да си управлява колата - то виновен ще е задкормилния галфон.

[Dinain]

...
Колата с AI в проливен дъжд не видяла пресичащия пешеходец и го сгазила. В случая с човек-шофьор има на кого да се търси отговорност. А в случая с AI?
...

Демек колата с AI сама изпълзяла от гаража и сгазила човека?

Тролежът ти е доста слаб.
В колата може да седи човек, който само е задал дестинацията, но дотам управлява AI. Може да е автономно такси, а човекът е само пътник. А може и да не седи никой, защото е напълно автономен камион за доставки на онлайн поръчки по адреси. Да, изпълзял сам от гаража, защото някой си е поръчал нови гащи от Amazon. Какво значение има това?

Ако на автономния автомобил софтуерчето е неспособно да преценя и да се движи в такива условия - няма какво да прави на пътя въобще. Спира се от експлоатация и когато оправят бъга - да заповядат за нов лиценз.

Гениално, рки, не се бях сетил...

А сега заповядай в реалния свят - провери колко катастрофи се случват годишно в света. Бърз поглед на световната статистика показва, че няма цифра за всички ПТП общо (вероятно са над милиард), но загиналите годишно в света са 1.35 милиона души, ранени 20-50 млн. души.

Да речем, че AI е по-добър шофьор от човека, нали? Ще намали броя катастрофи 2, 3, 5 пъти? Няма значение колко. Но милиони катастрофи годишно ще продължат да се случват, няма как да станат 0. Сега кажи кой автопроизводител или регулаторни орган иска да е ответник по милиони съдебни дела годишно, и може би най-сетне ще схванеш, че проблем има.

[Bruchpilot]

Не е тролеж, напротив. Опитвам се да ти подскажа, че този който оперира въпросното средство ще носи и отговорността

[Dinain]

Откъде-някъде? Този, който оперира, да речем Amazon, може да оперира 10000 автономни камиона Ford, и обвинява производителя, а производителят обвинява регулаторния орган, който е сертифицирал камионите.

А може и колата да е частна собственост, моя, извикал съм я с телефона си да ме вземе от някой адрес, и по пътя празната кола блъска пешеходец. Аз ли съм виновен или производителя на колата? Или регулатора, сертифицирал този модел?

И се въртим в кръг.

[rki]

Гениално, рки, не се бях сетил...

Моля! Радвам се, че съм помогнал!

А сега заповядай в реалния свят - провери колко катастрофи се случват годишно в света. Бърз поглед на световната статистика показва, че няма цифра за всички ПТП общо (вероятно са над милиард), но загиналите годишно в света са 1.35 милиона души, ранени 20-50 млн. души.

Да речем, че AI е по-добър шофьор от човека, нали? Ще намали броя катастрофи 2, 3, 5 пъти? Няма значение колко. Но милиони катастрофи годишно ще продължат да се случват, няма как да станат 0. Сега кажи кой автопроизводител или регулаторни орган иска да е ответник по милиони съдебни дела годишно, и може би най-сетне ще схванеш, че проблем има.

Какъв проблем? Какви катастрофи?
Няма теза, няма нищо - само доста слаб тролеж.

[Dinain]

Какъв проблем? Какви катастрофи?
Няма теза, няма нищо - само доста слаб тролеж.

Зарежи, явно си прав - няма нищо. Вакуум.

[rki]

именно.

P.S. дори L4 автономните автомобили (които в момента са само експериментални) могат да оперират само в добре разузната, известна среда, а не навсякъде и при всички условия, и пак не могат да изключат напълно и изискват човешки надзор и намеса.
За L5 експертните мнения на тези които разбират и сериозно се занимават с разработката на автономните автомобили се делят грубо на две - оптимистите считат, че сме на 10-15 години от достигането на пълна автономност, песимистите смятат, че такава никога (в обозримото бъдеще) няма да се достигне.
Катастрофите може да ги разделим на две - предизвикани от случайно събитие (примерно водача получава инфаркт и се забива в насрещно движещите се коли - виновни няма) и човешки грешки и пропуски (на шофьора, лошо техническо обслужване на автомобилите, лоша поддръжка на пътя или конструктивни недостатъци и дефекти - примерно SUA https://en.wikipedia.org/wiki/Sudden_un ... celeration
В последния случай отговорност носи производителя и плаща солени обезщетения.)

Повечето "автономни системи", които са в движение, в момента са L2, някои се доближават до L3 и за всички в дребния шрифт е написано, че водача трябва да е готов всеки един момент да поеме контрола над автомобила за да се избегнат катастрофите. Просто казано отговорността е прехвърлена изцяло върху водачите.

[Bruchpilot]

Откъде-някъде? Този, който оперира, да речем Amazon, може да оперира 10000 автономни камиона Ford, и обвинява производителя, а производителят обвинява регулаторния орган, който е сертифицирал камионите.
А може и колата да е частна собственост, моя, извикал съм я с телефона си да ме вземе от някой адрес, и по пътя празната кола блъска пешеходец. Аз ли съм виновен или производителя на колата? Или регулатора, сертифицирал този модел?
И се въртим в кръг.

Аха, значи най-после се усетихте, че всъщност има два момента и че и двата в дори в момента имат решение, което не е кръг Ако има човек, който пряко оперира - в смисъл на надзирава, подава конкретни команди, пряко, непряко, дистанционно и т.н., то той конкретно носи наказателна отговорност и такава за вреди. Ако такъв човек липсва и нещото оперира напълно автономно - в смисъл на изцяло взема решения само и хората се возят като куфари без възможност да въздействат, то собственика/оператора няма да носи наказателна отговорност, а само такава за вреди.

[Archer]

Има ли данни коя автомобилна компания в момента е най големия производител на електрички ( без Тесла разбира се ) ?

[pnp5q]

Ако има човек, който пряко оперира - в смисъл на надзирава, подава конкретни команди, пряко, непряко, дистанционно и т.н., то той конкретно носи наказателна отговорност

В смисъл, че оператора на Уиндоус-машина носи отговорност за това, че Уиндоус пропуска вируси както решетото - вода? Не съм чувала.

[Bruchpilot]

Ако има човек, който пряко оперира - в смисъл на надзирава, подава конкретни команди, пряко, непряко, дистанционно и т.н., то той конкретно носи наказателна отговорност

В смисъл, че оператора на Уиндоус-машина носи отговорност за това, че Уиндоус пропуска вируси както решетото - вода? Не съм чувала.

И тук опираме до факта, че пак човек разработва и пуска вирусите, а не Унидус-а без чуждо участие

[rki]

Ми има елементарни предпазни мерки - ако компа ви бъка от вируси, потърсете причините за това първо във вас.

[Sharana]

Има ли данни коя автомобилна компания в момента е най големия производител на електрички ( без Тесла разбира се ) ?

VW AG трябва да са с няколкото модела, които се произвеждат. С вече доставящите се ID.3 и бъдещите доставки на ID.4 и Enyaq iV вероятно ще стане по-забележимо.

[EddieBG]

Има ли данни коя автомобилна компания в момента е най големия производител на електрички ( без Тесла разбира се ) ?

от тук

P.S. уточни обаче какво точно разбираш под "най-голям производител" - с най-голяма капитализация, с най-много работници, с най-много продадени коли до момента или за даден период, или нещо друго.

[Dinain]

Откъде-някъде? Този, който оперира, да речем Amazon, може да оперира 10000 автономни камиона Ford, и обвинява производителя, а производителят обвинява регулаторния орган, който е сертифицирал камионите.
А може и колата да е частна собственост, моя, извикал съм я с телефона си да ме вземе от някой адрес, и по пътя празната кола блъска пешеходец. Аз ли съм виновен или производителя на колата? Или регулатора, сертифицирал този модел?
И се въртим в кръг.

Аха, значи най-после се усетихте, че всъщност има два момента и че и двата в дори в момента имат решение, което не е кръг Ако има човек, който пряко оперира - в смисъл на надзирава, подава конкретни команди, пряко, непряко, дистанционно и т.н., то той конкретно носи наказателна отговорност и такава за вреди. Ако такъв човек липсва и нещото оперира напълно автономно - в смисъл на изцяло взема решения само и хората се возят като куфари без възможност да въздействат, то собственика/оператора няма да носи наказателна отговорност, а само такава за вреди.

Де да беше толкова просто... Все някой трябва да носи отговорност обаче.

Преди време четох няколко статии по въпроса и от тогава ми стана интересен юридическия аспект (повече от техническия), защото точно поради тази причина щата Калифорния категорично блокира опитите на Гугъл да пусне някакви автономни или полу-автономни прототипи да провеждат тестове по улиците - пълната липса на яснота кой ще носи отговорност при инцидент.

Ако искат експертите да го наричат L5 или L500, аз изхождам от презумпцията, че е въпрос на време да стане технически възможно и някой ден ще стане. Но както казах, по-интересен ми е юридическия, икономически и моралния аспект и как трите са навързани.

Статистика: https://www.who.int/gho/road_safety/mor ... number/en/
(Повтарям се) В света годишно в ПТП загиват 1.35 млн. души, до 50 млн. остават с трайни увреждания, а имуществените щети са просто неизброими. В момента е ясно кой носи отговорност за всичко това - в огромната част шофьорът, или в по-редки случаи някой пресичащ неправомерно пешеходец, или в редки случаи производителя, но само за гаранционни проблеми по МПС. Накратко, повече или по-малко е ясно кой носи отговорност и как е разпределена тя.

Ако голямата част от МПС или всички станат автономни обаче, шофьорът вече няма да носи отговорност, защото той не "оперира" с устройството. ИИ може да е по-добър, по-лош или същият като честота на инцидентите шофьор като човека, но е ясно, че някакви катастрофи винаги ще има. Под "някакви" имам предвид струващи трилиони долари годишно:

https://www.togetherforsaferroads.org/b ... 0the%20GDP.
СЗО изчислява, че икономическите щети от ПТП се равняват на 1% от световния БВП, като в по-бедните страни могат да с 1.5% или 2%. Тоест ако нямаше никакви ПТП, светът ще произвежда 1% повече.

Кой плаща тези загуби в момента - ами ясно е кой, по-горе е посочено.
Навлизайки ИИ обаче, нещата се променят коренно. Де факто производителят не продава вече кола, а продава кола+шофьор. Застрахователите какво ще застраховат и на базата на какъв Бонус-Малус, не ми се мисли.

Та ако производителите бъдат накарани да носят отговорност за всяко ПТП, предизвикано от тяхна автономна кола в което участва тяхна кола, това ще бъде начислено в стойността на тази кола, и те ще бъдат бааая скъпички. И трудно продаваеми. Тоест популяризирането им ще е трудно и бавно. Или, при такава законова рамка, предполагам повечето производители просто ще се откажат да го правят! Или ще пробутат отговорността на сервизите и пунктовете за ГТП - колко ли ще струва тогава ГТП?

А ако законовата рамка казва, че собственикът е отговорен? Направо не ми се мисли. Защото си измислих вече каква свобода дава такава кола на теория. Примерно аз отивам с колата на работа и я паркирам в паркинга. Жена ми работи на другия край на града и двамата имаме апликации на телефона, тя си вика колата през нейния телефон, колата отива при нея, закарва я където трябва и пак се връща в паркинга на офиса кротко да ме чака да свърша работа. Ако по време на тези движения из града празната кола блъсне нещо или някого - аз ли нося отговорност?

Нещо повече, аз съм си програмирал колата да отива в работни дни в даден час на даден адрес да ми вземе детето от училище и да го откара вкъщи, после се връща пак да ме чака на паркинга пред офиса - и ми спестява да трябва да го правя аз. Ако по време на тези движения из града празната кола блъсне нещо или някого - аз ли нося отговорност? При положение, че дори не съм дал никаква съзнателна команда, на колата просто й е зададено разписание като на автобус.

Сега, дори не разглеждам фантастичния сценарий някой да разработи перфектен ИИ, който никога не предизвиква никакви ПТП и никога не участва в тях - това не е реалистично. Така че ПТП ще има, но основния въпрос "Кой носи отговорност" ще обърне веригата производител-потребител-регулатор-застраховател-сервиз с главата нагоре.

[rki]

Откъде въобще се пръква идеята, че причините за всички катастрофи ще са непременно във софтуера/хардуера на автономните автомобили?

[Bruchpilot]

Преди време четох няколко статии по въпроса и от тогава ми стана интересен юридическия аспект (повече от техническия), защото точно поради тази причина щата Калифорния категорично блокира опитите на Гугъл да пусне някакви автономни или полу-автономни прототипи да провеждат тестове по улиците - пълната липса на яснота кой ще носи отговорност при инцидент.

Първо - Калифорния е друга правна система, там може и да имат проблем. Второ, помисли - в момента пътническите самолети са дори повече от полу-автономни. И кой е виновен обикновено в случай, че (не дай Боже) нещо лошо стане
Може да не ти се вярва и частта, че собственикът е почти винаги отговорен, but that how the cookie crumbles.

[rki]

Всъщност Калифорния е един от двата или трите щата в САЩ които не само разрешават тестването на автономни (безшофьорни) автомобили, но и пускането на тези автомобили в масова експлоатация.
Естествено трябва да бъдат изпълнени един куп изисквания вкл. производителите трябва да докажат, че са финансово способни да покрият всички щети, материални и нематериални (смърт, телесни повреди) произтичащи от катастрофи причинени от техните автономни автомобили, когато оперират в автономен режим.
Ето я регулацията, и ето например изискванията към отговорността (финансовата) на производителите, за да бъдат допуснати техните автомобили в редовна експлоатация:

§228.04. Financial Requirements for a Permit to Deploy Autonomous Vehicles on Public Roads.

(a)A manufacturer of autonomous vehicles, both those that require a driver inside the vehicle and those that do not require a driver inside the vehicle, may satisfy the requirements of Vehicle Code section 38750 (c)(3) by presenting evidence of one of the following:
(1)The manufacturer has in place and has provided the department with evidence of the manufacturer’s ability to respond to a judgment or judgments for damages for personal injury, death, or property damage arising from collisions or accidents caused by the autonomous vehicles produced by the manufacturer in the form of an instrument of insurance, a surety bond, or proof of self-insurance.
(2)A surety bond, that meets the requirements of Section 227.10 of Article 3.7, and is conditioned that the surety shall be liable if the manufacturer, as principal, fails to pay any final judgment for damages for personal injury, death or property damage arising from a collision involving an autonomous vehicle deployed by the manufacturer pursuant to Vehicle Code section 38750(c), and shall be submitted to the department with the Autonomous Vehicles Manufacturer Deployment Program Surety Bond, form OL 317A (New 6/2014), which is hereby incorporated by reference.
(3)An insurance that meets the requirements of Section 227.08 of Article 3.7.
(4)A proof of self-insurance shall meet the requirements of, and be governed by, Section 227.12 of Article 3.7 and shall be submitted to the department on an Autonomous Vehicle Manufacturer’s Deployment Program Application for Certificate of Self-Insurance, form OL 319A (New 2/2017), which is hereby incorporated by reference.

(b)Any cancellation of the permission to satisfy the requirements of Vehicle Code section 38750, subsection (c)(3), shall be subject to the hearing requirements provided in these regulations for the suspension or revocation of permits or authorizations.

(c)The manufacturer’s evidence of financial responsibility as required by Vehicle Code section 38750, subsection (c)(3), is in addition to that required by Vehicle Code section 38750, subsection (b)(3), and does not absolve any vehicle owner of the requirement to be able to show, at all times, evidence of financial responsibility in the amounts specified in Vehicle Code section 16056.

Тестването на автономните автомобили също е подробно уредено, неслучайно Waymo(Гугъл) имат над 2 милиона мили навъртяни в тестове в Калифорния. За сравнение самопровъзгласилия се лидер в технологията на автономните автомобили е успял да навърти преко сили под 1000 мили, като компютъра се e изключвал и е искал намеса на шофьора на всеки 3-4 километра срещу над 20000 километра при Waymo.

За да няма съмнения и спорове какво точно е автономен автомобил, това е дефиницията която са приели в регулацията:

(b)“Autonomous vehicle” means any vehicle equipped with technology that is a сombination of both hardware and software that has the capability of performing the dynamic driving task without the active physical control or monitoring of a natural person, excluding vehicles equipped with one or more systems that enhance safety or provide driver assistance but are not capable of driving or operating the vehicle without the active physical control or monitoring of a human. For the purposes of this article an “autonomous vehicle” meets the definition of levels 3, 4, or 5 of the SAE International’s Taxonomy and Definitions for Terms Related to Driving Automation Systems for On-Road Motor Vehicles, Standard J3016 (SEP2016), which is hereby incorporated by reference.

[Archer]

P.S. уточни обаче какво точно разбираш под "най-голям производител" - с най-голяма капитализация, с най-много работници, с най-много продадени коли до момента или за даден период, или нещо друго.

Общо взето кой прави най много електрически коли като бройка. Учудих се че азиатците са назад.

[Dinain]

Откъде въобще се пръква идеята, че причините за всички катастрофи ще са непременно във софтуера/хардуера на автономните автомобили?

Това няма никакво значение, понеже причините се установяват по съдебен/административен път, а това значи съдебни и административни разноски, време и бумащина. С които в момента е натоварен собственикът/шофьорът на МПС. А когато шофьорът е ИИ, с това ще бъде натоварен някой друг - например производителя. Или няма да бъде натоварен, зависи от законовата рамка. Която в момента, общо взето, липсва или е неясна. Доколкото виждам от поста на рки, в момента производителят дава финансови гаранции, за да получи разрешение да разположи автономни коли. При натрупване на ПТП тези гаранции ще трябва да са огромни, и разбира се ще са калкулирани в цената, така че индиректно пак да ги плати собственикът.

Пътническите самолети все още летят с пилоти на борда обаче, и инцидентите с тях са многократно по-малобройни от ПТП на статистическа база. Интересното за мен е, и говоря разбира се за масовото навлизане на ИИ. В тестова фаза имаме малък брой коли и съответно малък брой инциденти.

Хрумват ми още сценарии:

Колата ми пътува празна по задачи из града, блъска се с друга празна автономна кола. Кой се занимава с административно-съдебната тежест на установяване на вина - двамата собственици на автономните коли или двамата производители (може и да е един и същ)? Или празната ми кола бива заснета от камера за превишена скорост на някаква отсечка, аз ли трябва да платя глобата, или производителят, понеже колата му не е разчела знака, или КАТ понеже знакът им е избледнял от слънцето, и кой ще трябва да се занимава да оспорва фиша... много въпроси.

[rki]

Откъде въобще се пръква идеята, че причините за всички катастрофи ще са непременно във софтуера/хардуера на автономните автомобили?

Това няма никакво значение, понеже причините се установяват по съдебен/административен път, а това значи съдебни и административни разноски, време и бумащина. С които в момента е натоварен собственикът/шофьорът на МПС. А когато шофьорът е ИИ, с това ще бъде натоварен някой друг - например производителя. Или няма да бъде натоварен, зависи от законовата рамка. Която в момента, общо взето, липсва или е неясна.

Всъщност катастрофите с участие на автономни автомобили ще са едни от ная-лесните за разследване - достатъчно е да се наложи като стандарт автомобилите да имат нещо като черна кутия в която да са записани показанията на всички датчици, сензори, камери за примерно последните 10 минути когато колата е била в движение. По този начин еднозначно ще се установява фактическата обстановка и чия е вината.

[Dinain]

Да, със сигурност ще имат нещо като черна кутия.