Timnit Gebru - Timnit Gebru
Timnit Gebru | |
|---|---|
 Gebru w 2018 roku
| |
| Urodzić się | 1982/1983 (wiek 37–38)
Addis Abeba , Etiopia
|
| Alma Mater | Uniwersytet Stanford |
| Znany z |
Błąd algorytmiczny Uczciwość w uczeniu maszynowym |
| Kariera naukowa | |
| Pola | Informatyka |
| Instytucje |
Badania firmy Microsoft Apple |
| Doradca doktorski | Fei-Fei Li |
Timnit Gebru ( amharski : ትምኒት ገብሩ ; ur. 1983/1984) jest etiopskim amerykańskim informatykiem, który pracuje nad uprzedzeniami algorytmicznymi i eksploracją danych . Jest orędowniczką różnorodności technologicznej i współzałożycielką Black in AI, społeczności czarnych naukowców pracujących w sztucznej inteligencji .
W grudniu 2020 r. jej zatrudnienie w Google jako współkierownika technicznego zespołu ds. sztucznej inteligencji etycznej zakończyło się po tym, jak menedżerowie wyższego szczebla Google poprosili ją o wycofanie jeszcze nieopublikowanego artykułu lub usunięcie z niego nazwisk wszystkich pracowników Google ( czyli pięciu z sześciu współautorów, pozostawiając Emily M. Bender ). Odmówiła, domagając się poznania nazwisk i powodów wszystkich, którzy podjęli tę decyzję, i powiedziała, że zrezygnuje po odpowiednim czasie, jeśli nie otrzyma tych informacji. Google nie spełniło jej prośby i natychmiast rozwiązało jej zatrudnienie, mówiąc, że zaakceptowało jej rezygnację. Google stwierdził, że omawiany artykuł, zatytułowany „O niebezpieczeństwach stochastycznych papug: czy modele językowe mogą być zbyt duże?”, zignorował ostatnie badania, które wykazały metody łagodzenia uprzedzeń w tych systemach. Jej odejście wywołało publiczne kontrowersje.
Wczesne życie i edukacja
Gebru urodził się i wychował w Addis Abebie w Etiopii . Jej ojciec zmarł, gdy miała pięć lat, a wychowywała ją matka. Oboje jej rodzice pochodzą z Erytrei . Ostatecznie otrzymała azyl polityczny w Stanach Zjednoczonych.
Po ukończeniu szkoły średniej w Massachusetts została przyjęta na studia na Uniwersytecie Stanforda . Tam uzyskała tytuł licencjata i magistra elektrotechniki . Gebru pracował w Apple Inc. , opracowując algorytmy przetwarzania sygnału dla pierwszego iPada . Gebru obroniła doktorat pod kierunkiem Fei-Fei Li na Uniwersytecie Stanforda w 2017 roku. Wykorzystała eksplorację danych z publicznie dostępnych obrazów. Interesowała ją ilość pieniędzy wydawanych przez organizacje rządowe i pozarządowe na zbieranie informacji o społecznościach. Aby zbadać alternatywy, Gebru połączył głębokie uczenie z Google Street View, aby oszacować dane demograficzne dzielnic Stanów Zjednoczonych , pokazując, że cechy społeczno-ekonomiczne, takie jak wzorce głosowania, dochód, rasa i wykształcenie, można wywnioskować z obserwacji samochodów. Jeśli liczba pickupów przewyższa liczbę sedanów , społeczność chętniej zagłosuje na partię republikańską . Przeanalizowali ponad 15 milionów zdjęć z 200 najbardziej zaludnionych miast USA. Praca była szeroko komentowana w mediach, odebrana przez BBC News , Newsweek , The Economist i The New York Times .
Gebru zaprezentowała swoje badania podczas konkursu 2017 LDV Capital Vision Summit, gdzie naukowcy zajmujący się wizją komputerową prezentują swoją pracę członkom przemysłu i inwestorom venture capital . Gebru wygrał konkurs, rozpoczynając szereg współpracy z innymi przedsiębiorcami i inwestorami. Zarówno podczas studiów doktoranckich w 2016, jak iw 2018, Gebru wróciła do Etiopii z kampanią programistyczną Jelaniego Nelsona AddisCoder. Po otrzymaniu doktoratu Gebru dołączyła do Microsoft jako badacz podoktorancki w laboratorium Uczciwości, Odpowiedzialności, Przejrzystości i Etyki w AI (FATE).
Kariera i badania
Gebru pracowała w Google , gdzie współkierowała zespołem ds. etyki sztucznej inteligencji z Margaret Mitchell . Studiowała implikacje sztucznej inteligencji, starając się poprawić zdolność technologii do czynienia dobra społecznego. Współpracowała z grupą badawczą MIT Gender Shades. Gebru współpracował z Joy Buolamwini w celu zbadania oprogramowania do rozpoznawania twarzy ; odkrycie, że czarne kobiety były o 35% rzadziej rozpoznawane niż biali mężczyźni. Kiedy Gebru uczestniczyła w konferencji poświęconej sztucznej inteligencji w 2016 roku, zauważyła, że jest jedyną czarnoskórą kobietą spośród 8500 delegatów. Wraz ze swoją koleżanką Rediet Abebe , Gebru założyła Black in AI , społeczność czarnych badaczy pracujących nad sztuczną inteligencją.
Gebru pracował również nad uczciwością, odpowiedzialnością, przejrzystością i etyką Microsoftu w zespole AI. W 2017 r. Gebru przemawiała na konferencji Fairness and Transparency, na której MIT Technology Review przeprowadził z nią wywiad na temat błędów występujących w systemach AI i tego, jak dodanie różnorodności w zespołach AI może rozwiązać ten problem. W wywiadzie dla Jackie Snow Snow zapytała Gebru: „W jaki sposób brak różnorodności zniekształca sztuczną inteligencję, a konkretnie widzenie komputerowe?”. Gebru wskazał, że twórcy oprogramowania mają uprzedzenia. W 2019 r. Gebru i inni badacze sztucznej inteligencji „podpisali list wzywający Amazon do zaprzestania sprzedaży technologii rozpoznawania twarzy organom ścigania, ponieważ jest ona stronnicza wobec kobiet i osób kolorowych”, powołując się na badanie przeprowadzone przez badaczy z MIT. że system rozpoznawania twarzy Amazona miał więcej problemów z identyfikacją kobiet o ciemniejszej karnacji niż oprogramowanie do rozpoznawania twarzy jakiejkolwiek innej firmy technologicznej. W wywiadzie dla New York Times Gebru wyraziła dalej, że uważa, iż rozpoznawanie twarzy jest obecnie zbyt niebezpieczne, aby mogło być wykorzystywane do celów egzekwowania prawa i bezpieczeństwa.
Wyjdź z Google
Gebru przestała pracować dla Google w grudniu 2020 roku. Okoliczności jej odejścia są kwestionowane. Gebru i niektórzy z jej współpracowników twierdzili, że została zwolniona z Google. Dyrektorzy Google, dr Jeff Dean i Megan Kacholia, twierdzili, że zaproponowała rezygnację i że jej rezygnacja została następnie zaakceptowana przez Google. Stwierdziła, że nigdy nie zaproponowała natychmiastowej rezygnacji, powiedziała tylko, że porozmawia ze swoim menedżerem o „ostatniej randce”.
Gebru był współautorem artykułu na temat zagrożeń związanych z bardzo dużymi modelami językowymi, w odniesieniu do ich kosztów środowiskowych i finansowych, nieodgadnienia prowadzącego do nieznanych niebezpiecznych błędów, niezdolności modeli do zrozumienia pojęć leżących u podstaw tego, czego się uczą, oraz możliwości ich wykorzystania oszukiwać ludzi. W e-mailu wysłanym na wewnętrzną listę współpracy Gebru opisuje, jak została wezwana na spotkanie z krótkim wyprzedzeniem, na którym poproszono ją o wycofanie artykułu i mówi, że jej kolejne zapytania dotyczące tożsamości recenzentów, a także jak i dlaczego decyzja zostały podjęte zostały zignorowane. Gebru poprosiła o spełnienie pewnych warunków, aby zapobiec jej rezygnacji, ale zespół AI Google nie chciał spełnić tych warunków i przyjął jej rezygnację jeszcze tego samego dnia. Dean, szef badań nad sztuczną inteligencją w Google, odpowiedział e-mailem, w którym powiedział, że podjęli decyzję, ponieważ artykuł zignorował zbyt wiele istotnych ostatnich badań dotyczących sposobów złagodzenia niektórych opisanych w nim problemów, dotyczących wpływu na środowisko i stronniczości tych modeli.
Po kontrowersji dyrektor generalny Google Sundar Pichai przeprosił, nie przyznając się do wykroczenia. Blisko 2700 pracowników Google oraz ponad 4300 naukowców i zwolenników społeczeństwa obywatelskiego podpisało list potępiający rzekome zwolnienie Gebru. W rezultacie dwóch pracowników Google zrezygnowało ze swoich stanowisk w firmie.
16 grudnia 2020 r. zespół badawczy Google ds. etycznej sztucznej inteligencji zażądał usunięcia wiceprezes Megan Kacholia z łańcucha zarządzania zespołem. Kacholia rzekomo zwolniła dr. Gebru bez wcześniejszego powiadomienia bezpośredniego kierownika Gebru, dr. Samy'ego Bengio . Zespół Google ds. Etycznej sztucznej inteligencji zażądał również od Megan Kacholia i szefa AI Google, Jeffa Deana, przeprosin za sposób, w jaki dr Gebru był traktowany.
Dziewięciu członków Kongresu wysłało list do Google z prośbą o wyjaśnienie okoliczności odejścia Timnita Gebru.
Kontrowersje doprowadziły do oskarżeń o internetową kampanię nękania Gebru i jej zwolenników, w tym rzekome nękanie przez badacza uczenia maszynowego Pedro Domingosa i biznesmena Michaela Lissacka .
Post-Google
W czerwcu 2021 r. Gebru ogłosiła, że zbiera pieniądze na „uruchomienie niezależnego instytutu badawczego, wzorowanego na jej pracy nad zespołem Google ds. etycznej sztucznej inteligencji i jej doświadczeniu w Black in AI”.
Nagrody
Gebru, Joy Buolamwini i Inioluwa Deborah Raji wygrał VentureBeat ' s 2019 AI Innovations Award w kategorii AI na dobre dla ich badania podkreślając znaczącą problemu algorytmicznego błędu w rozpoznawaniu twarzy. Gebru został uznany przez Fortune za jednego z 50 największych światowych liderów w 2021 roku.
Wybrane publikacje
- Gebru, Timnit; Krause, Jonathan; Wang, Yilun; Chen, Duyun; Deng, Jia; Aiden, Erez Lieberman; Fei-Fei, Li (12 grudnia 2017). „Korzystanie z uczenia głębokiego i Google Street View do oszacowania składu demograficznego dzielnic w Stanach Zjednoczonych” . Materiały Narodowej Akademii Nauk . 114 (50): 13108–13113. doi : 10.1073/pnas.1700035114 . ISSN 0027-8424 . PMC 5740675 . PMID 29183967 .
- Buolamwini, Radość; Gebru, Timnit (2018). „Odcienie płci: przekrojowe różnice w dokładności w komercyjnej klasyfikacji płci” . Materiały z badań nad uczeniem maszynowym . 81 : 1–15. ISSN 1938-7288 .
- Gebru, Timnit (9 lipca 2020). „Rasa i płeć”. W Dubber, Markus D.; Pasquale, Frank; Das, Sunit (wyd.). Oxford Handbook of Ethics of AI . Wydawnictwo Uniwersytetu Oksfordzkiego . s. 251–269. doi : 10.1093/oxfordhb/9780190067397.013.16 . Numer ISBN 978-0-19-006739-7.
- Gebru, Timnit (1 sierpnia 2017). Socjologia wizualna obliczeniowa: metody i wyzwania widzenia komputerowego (PDF) (Praca).
Bibliografia
Zewnętrzne linki
 |
Scholia ma profil dla Timnit Gebru (Q59753117) . |
- Profil na Uniwersytecie Stanforda
-
Multimedia związane z Timnit Gebru w Wikimedia Commons
