OpenAI financuje výskum morálky umelej inteligencie

OpenAI investuje milión dolárov do výskumu na Duke University, ktorý má za cieľ vytvoriť algoritmy schopné predpovedať morálne úsudky ľudí. Tím pod vedením profesora etiky Waltera Sinnott-Armstronga sa pokúsi naučiť umelú inteligenciu rozhodovať v eticky zložitých situáciách v medicíne, práve, ale aj biznise.

Umelá inteligencia ako morálny kompas pre ľudstvo

Výskumníci z Duke University už skôr vytvorili morálne orientovaný algoritmus pre rozhodovanie o príjemcoch transplantácií obličiek. Ich vízia však teraz smeruje k vytvoreniu akéhosi morálneho kompasu, ktorý by pomáhal ľuďom v zložitých etických rozhodnutiach. Ale je vôbec možné naučiť stroj chápať ľudskú morálku?

História nás varuje. V roku 2021 vyvinul Allen Institute nástroj Ask Delphi, ktorý mal poskytovať etické odporúčania. Dokázal správne posúdiť, že podvádzanie pri skúške je zlé, ale stačilo preformulovať otázku a systém začal schvaľovať aj vyložene neetické správanie. Dôvod? AI systémy sú v jadre iba štatistické stroje bez skutočného pochopenia etiky.

Západná predpojatosť v digitálnej morálke

Súčasné AI systémy sú trénované predovšetkým na dátach zo západného sveta, čo vedie k jednostrannému pohľadu na morálku. Systémy tak často reprodukujú hodnoty západnej, vzdelanej a industrializovanej spoločnosti, zatiaľ čo iné kultúrne perspektívy zostávajú opomenuté.

Každý algoritmus sa navyše učí na iných dátach. To sa prejavuje aj v kontroverzných súdoch, napríklad keď Delphi označil heterosexualitu za morálne prijateľnejšiu než homosexualitu. Aj ostatné AI systémy zastávajú odlišné filozofické postoje.

Claude sa napríklad prikláňa ku Kantovmu absolutizmu, zatiaľ čo ChatGPT inklinuje k utilitarizmu. Podľa všetkého bude naozaj zložité vytvoriť univerzálny morálny algoritmus, keď aj samotní filozofi debatujú o etických teóriách už tisíce rokov.