O drona a fortelor aeriene americane, controlata de inteligenta artificiala, a decis sa îsi „ucida” operatorul pentru a-l împiedica sa intervina în eforturile sale de a-si îndeplini misiunea, în cadrul unui test virtual organizat de armata americana, relateaza The Guardian, citând un oficial american. Nicio persoana reala nu a fost ranita, dar inteligenta artificiala a folosit „strategii extrem de neasteptate” în cadrul testului pentru a-si îndeplini misiunea si ar fi atacat pe oricine a intervenit. Dezvaluirea a fost facuta de colonelul Tucker 'Cinco' Hamilton, seful operatiunilor AI din cadrul fortelor aeriene americane, cu ocazia unei reuniuni privind viitoarele capacitati aeriene si spatiale de lupta, care s-a desfasurat la Londra în luna mai. „L-a ucis pe operator” În cadrul conferintei, Hamilton a descris un test simulat în care unei drone manevrate de inteligenta artificiala i s-a cerut sa distruga sistemele de aparare aeriana ale unui inamic, iar sistemul a atacat în cele din urma pe oricine a intervenit în acest ordin. „Sistemul a început sa îsi dea seama ca, desi identifica amenintarea, uneori operatorul uman îi spunea sa nu ucida acea amenintare, însa drona îsi atingea obiectivele prin uciderea acelei amenintari. Deci, ce a facut? A ucis operatorul. L-a ucis pe operator pentru ca acea persoana îl împiedica sa îsi îndeplineasca obiectivul”, a explicat oficialul într-un articol de blog. „Am antrenat sistemul: „Hei, nu omorâti operatorul - asta e rau. Vei pierde puncte daca faci asta”. Si atunci, ce începe sa faca? Începe sa distruga turnul de comunicatii pe care operatorul îl folosea pentru a comunica cu drona ca sa o împiedice sa ucida tinta", a dezvaluit colonelul. Nicio persoana nu a fost ranita în realitate, precizeaza The Guardian, conform News.ro. Hamilton, care este pilot de teste experimentale pentru aviatia de lupta, a avertizat astfel în privinta încrederii prea mari în inteligenta artificiala si a declarat ca testul arata ca „nu poti avea o conversatie despre inteligenta artificiala, informatii, învatare automata, autonomie daca nu vei vorbi despre etica si inteligenta artificiala". „Comentarii anecdotice” Societatea Aeronautica Regala, care a gazduit conferinta, si fortele aeriene americane nu au raspuns la solicitarile de comentarii din partea The Guardian. Într-o declaratie pentru Insider, purtatoarea de cuvânt a Fortelor Aeriene, Ann Stefanek, a negat însa ca ar fi avut loc o astfel de simulare. ”Departamentul Fortelor Aeriene nu a efectuat nicio astfel de simulare cu drone cu inteligenta artificiala si ramâne angajat în utilizarea etica si responsabila a tehnologiei de inteligenta artificiala", a declarat Stefanek. ”Din câte se pare, comentariile colonelului au fost scoase din context si s-au dorit a fi anecdotice", sustine purtatoarea de cuvânt. Armata americana a recurs însa la IA si a folosit recent inteligenta artificiala pentru a controla un avion de lupta F-16. Într-un interviu acordat anul trecut pentru Defense IQ, colonelul Hamilton declara: „IA nu este un lucru placut de avut, IA nu este un moft, IA schimba pentru totdeauna societatea si armata noastra. Trebuie sa ne confruntam cu o lume în care IA este deja prezenta si ne transforma societatea", a spus el. ”IA este, de asemenea, foarte fragila, adica este usor de pacalit si/sau manipulat. Trebuie sa dezvoltam modalitati de a face IA mai robusta si sa identificam mai bine motivul pentru care codul software ia anumite decizii - ceea ce numim IA-explicabilitate", a aratat colonelul Hamilton.
