Badacze krytykują oprogramowanie AI przewidujące emocje

Gitara Alligera Jerry'ego Garcii mogła sprzedać za 400 000 $ na aukcji w Los Angeles

[ad_1]

SAN FRANCISCO (Reuters) – Wybitna grupa naukowców zaniepokojonych szkodliwymi skutkami społecznymi sztucznej inteligencji wezwała w czwartek do zakazu automatycznej analizy wyrazu twarzy przy zatrudnianiu i innych ważnych decyzji.

AI Now Institute na Uniwersytecie w Nowym Jorku powiedział, że działania przeciwko takiemu rozpoznawaniu wpływu na oprogramowanie są jego najwyższym priorytetem, ponieważ nauka nie uzasadnia zastosowania tej technologii i wciąż jest czas, aby zatrzymać powszechne stosowanie.

Grupa profesorów i inni badacze podali jako problematyczny przykład firmę HireVue, która sprzedaje systemy do zdalnych rozmów wideo dla pracodawców, takich jak Hilton i Unilever. Oferuje sztuczną inteligencję do analizowania ruchów twarzy, tonów głosu i mowy oraz nie ujawnia wyników kandydatom na stanowisko.

Elektroniczne centrum informacji o ochronie prywatności non-profit złożyło skargę na HireVue do Federalnej Komisji Handlu USA, a AI Now wcześniej krytykowała firmę.

HireVue powiedział, że nie widział raportu AI Now i nie odpowiedział na pytania dotyczące krytyki lub skargi.

„Wielu kandydatów do pracy skorzystało z technologii HireVue, aby usunąć bardzo znaczące uprzedzenia ludzkie w istniejącym procesie rekrutacji” – powiedziała rzeczniczka Kim Paone.

AI Teraz w czwartym raporcie rocznym tutaj na temat wpływu narzędzi sztucznej inteligencji, wspomniane sprawdzanie pracy jest jednym z wielu sposobów, w jaki takie oprogramowanie jest używane bez odpowiedzialności, i zazwyczaj uprzywilejowane grupy uprzywilejowane.

Raport przytacza ostatnią akademicką analizę badań nad tym, jak ludzie interpretują nastroje na podstawie wyrazu twarzy. Ten papier tutaj+ domena / 10.1177% 2F1529100619832930-FREE / pdf stwierdził, że poprzednie stypendium wykazało, że takie postrzeganie jest niewiarygodne z wielu powodów.

„Sposób, w jaki ludzie komunikują gniew, wstręt, strach, szczęście, smutek i zaskoczenie, różni się znacznie w zależności od kultury, sytuacji, a nawet w obrębie jednej sytuacji”, napisał zespół z Northeastern University i Massachusetts General Hospital.

Według badań firmy, w tym Microsoft Corp, sprzedają swoje umiejętności klasyfikowania emocji za pomocą oprogramowania. Microsoft nie odpowiedział na prośbę o komentarz w środę wieczorem.

AI Now skrytykowała także Amazon.com Inc, która oferuje analizę wyrażania emocji za pomocą oprogramowania Rekognition. Amazon powiedział Reuterowi, że jego technologia decyduje tylko o wyglądzie czyjejś twarzy i nie twierdzi, że pokazuje, co dana osoba faktycznie czuje.

W telekonferencji przed opublikowaniem raportu założyciele AI Now, Kate Crawford i Meredith Whittaker, powiedzieli, że szkodliwe zastosowania AI mnożą się pomimo szerokiego konsensusu w sprawie zasad etycznych, ponieważ nie ma konsekwencji dla ich naruszenia.

Raportowanie przez Josepha Menna. Edycja: Gerry Doyle

.

[ad_2]

Source link