Noční můra každého programátora je, že řádky zdrojového kódu někoho připraví o život. Boeing v nejnovějších verzích populárního letounu 737 MAX přišel s novou počítačovou vychytávkou pod zkratkou MCAS. Hlavní počítač letadla má pilotům pomoci s řízením v krizové situaci.
Boeing ztratil při dvou tragických nehodách těsně po sobě dva zcela nové letouny 737 MAX. Při obou katastrofách zahynuli všichni pasažéři i členové posádky. Druhá nehoda v Etiopii se odehrála podle podezřele podobného scénáře s tou listopadovou v Jávském moři a donutila letecké autority uzemnit všech 393 letadel této verze a odstavit je na domovských letištích.
Stabilizační systém MCAS zasahuje
Odborníci stabilizační systém pod zkratkou MCAS i jeho uvedení do ostrého provozu podrobují kritice. Jeden vadný senzor stačí k tomu, že počítač vyhodnotí jinak zcela normální let jako krizi a začne pilotům zasahovat do řízení. A navíc. Piloti oprávněně kritizují výrobce, že je o novém systému neinformoval správně. Boeing také sám přiznal těsně po druhé nehodě, že chystá aktualizaci programu, který nový systém ovládá.
Počítačový stabilizační systém v nejnovějším Boeingu bychom třeba mohli připodobnit k protismykovému systému ESP ve vašem autě. Předchozí modely 737 tento systém neměly, stejně jako ho nemají některé starší automobily. Boeing tvrdil, že piloti proškolení na starších modelech letadla mohou po jedné hodině v učebně do vzduchu. Nikdo piloty neseznámil s tím, že stabilizační systém MCAS v letadle je a že je možné ho vypnout.
Čím nahradit tlačítko?
Dokonce sám šéf Boeingu Dennis Muilenburg se v emotivním videu zavazuje k rychlé opravě programu. Tyto aktualizace velmi dobře znáte ze svých počítačů nebo mobilů. Programátor se spletl nebo něco přehlédl. Nic se neděje, jeho kolegové programátoři už vše opravili a váš počítač je opět plně funkční.
Jenže za těmito dvěma nehodami jsou stovky mrtvých pasažérů. Obrovský propad hodnoty firmy, žádosti o kompenzace od aerolinek a především podlomená důvěra veřejnosti.
Kdo se bude zodpovídat a kdo odpovídat?
Programátoři a testeři budou stále více odpovědní za lidské životy. Programy pomáhají létat strojům nad našimi hlavami, samořiditelná auta se pomalu dostávají na silnice. Měli bychom se mít velmi na pozoru před okamžikem, kdy svěřujeme své životy do rukou počítačů. Kdo bude zodpovědný za chybu programátorů, pokud se ukáže, že skutečně pochybili při programování?
Budou to snad letecké autority, které nevyžádaly důkladné testování nového modelu letadla? Budou to zkušební piloti, protože neodhalili chybu v řízení? Budou to manažeři, kteří tlačili na urychlené schválení nové verze letounu? Budou to testeři počítačového programu, kteří nevymysleli dostatečný počet testovacích scénářů. Nebo to budou dokonce přímo programátoři, kteří nepomysleli na všechny důsledky svého zdrojového kódu? A kdo si troufne tento oříšek rozlousknout?