Изобретяването на AI „гайдар“ може да бъде началото на нещо много по-лошо

Изследователите твърдят, че могат да забележат гей хора от снимка, но критиците казват, че преразглеждаме псевдонауката

Преди две седмици двойка изследователи от университета Станфорд направиха изумително твърдение. Използвайки стотици хиляди изображения, взети от уебсайт за запознанства, те заявиха, че са обучили система за разпознаване на лица, която може да идентифицира дали някой е прав или гей, само като ги погледне. За първи път работата е покрита от Икономистът и други публикации скоро последваха примера им, като заглавия като New AI могат да познаят дали сте гей или направо от снимка и AI може да разбере дали сте гей от снимка и това е ужасяващо.



Както може би се досещате, това не е толкова просто. (И за да бъде ясно, само въз основа на тази работа, AIне можекажете дали някой е гей или направо от снимка.) Но изследването улавя често срещаните страхове относно изкуствения интелект: че това ще отвори нови пътища за наблюдение и контрол и може да бъде особено вредно за маргинализираните хора. Един от авторите на вестника, д-р Михал Косински, казва, че намерението му е да алармира за опасностите от ИИ и предупреждава, че разпознаването на лица скоро ще може да идентифицира не само сексуалната ориентация на някого, но и политическите им възгледи, престъпността и дори техния IQ.

някои предупреждават, че заместваме шублерите на физиономията с невронни мрежи

С изявления като тези, някои се притесняват, че възраждаме една стара вяра с лоша история: че можете да интуирате характера от външния вид. Тази псевдонаука, физиономия, беше гориво за научния расизъм от 19-ти и 20-ти век и даде морално покритие на някои от най-лошите импулси на човечеството: да демонизира, осъди и унищожи събратята си. Критиците на работата на Косински го обвиняват, че е заменил шублерите от 19-ти век с невронните мрежи от 21-ви, докато самият професор казва, че е ужасен от своите открития и е щастлив, че е доказано, че греши. Това е противоречива и разстройваща тема, а също така ни разстройва, казва тойНа ръба.

Но възможно ли е псевдонауката да се прокрадне обратно в света, маскирана в ново облекло благодарение на AI? Някои хора казват, че машините просто са в състояние да четат за нас повече, отколкото ние самите, но какво ще стане, ако ги обучаваме да изпълняват нашите предразсъдъци и като правим това, давайки нов живот на старите идеи, които правилно отхвърляме? Как ще разберем разликата?



Може ли AI наистина да забележи сексуалната ориентация?

Първо, трябва да разгледаме изследването в основата на неотдавнашния дебат, написано от Косински и неговия съавтор Илун Уанг. Резултатите от него са отчетени зле, като голяма част от шумът идва от погрешно представяне на точността на системата. Докладът гласи: Като се има предвид едно лицево изображение, [софтуерът] може правилно да прави разлика между гей и хетеросексуални мъже в 81 процента от случаите и в 71 процента от случаите за жени. Тези проценти се увеличават, когато системата дава пет снимки на човек: до 91 процента за мъжете и 83 процента за жените.

На пръв поглед това звучи така, сякаш AI може да разбере дали мъжът е гей или направо в 81 процента от времето, като погледне снимката му. (По този начин заглавията.) Но цифрите не означават това. AI не беше 81 процента точен, когато му се показваха случайни снимки: той беше тестван на aдвойкана снимки, един на гей човек и един на прав човек и след това попита кой е човекътпо-вероятнода бъда гей. Той е предположил правилно 81 процента от времето за мъжете и 71 процента от времето за жените, но структурата на теста означава, че той е започнал с базова линия от 50 процента - това е, което би получил случайно отгатване. И въпреки че беше значително по-добър от това, резултатите не са същите като да се каже, че може да се идентифициранякойСексуалната ориентация е 81 процента от времето.

Хората се страхуват от ситуация, в която [сте в тълпа] и компютърът идентифицира дали сте гей.

Както Филип Коен, социолог от Университета в Мериленд, който пишепубликация в блога, критикуваща хартията, казаНа ръба: Хората се страхуват от ситуация, в която имате личен живот и вашата сексуална ориентация не е известна, а вие отивате на летище или спортно събитие и компютър сканира тълпата и идентифицира дали сте гей или сте стрейт. Но просто няма много доказателства, че тази технология може да го направи.



Косински и Уанг изясняват това към края на статията, когато тестват системата си срещу 1000 снимки вместо две. Те искат от AI да избере кой е най-вероятно да бъде гей в набор от данни, в който 7% от снимките са гей,приблизителноотразяващ дела на несексуалните и гей мъжете в населението на САЩ. Когато бъдете помолени да изберете 100 лица, които най-вероятно ще бъдат гей, системата получава само 47 от 70 възможни попадения. Останалите 53 са идентифицирани неправилно. И когато бъдете помолени да определите топ 10, девет са прави.

Ако сте лош актьор, който се опитва да използва тази система за идентифициране на гейове, не сте могли да знаете със сигурност, че получавате верни отговори. Въпреки че, ако сте го използвали срещу достатъчно голям набор от данни, може да получите предимно правилни предположения. Това опасно ли е? Ако системата се използва за насочване на гейове, тогава да, разбира се. Но останалата част от проучването предполага, че програмата има дори допълнителни ограничения.

Какво наистина могат да видят компютрите, което хората не могат?

Също така не е ясно какви фактори използва системата за разпознаване на лица, за да преценява. Хипотезата на Косински и Уанг е, че тя основно идентифицира структурни различия: женски черти в лицата на гей мъжете и мъжки черти в лицата на гей жените. Но е възможно AI да бъде объркан от други стимули - като изражения на лицето на снимките.

ИИ може да идентифицира стереотипи, а не биологични различия

Това е особено важно, тъй като изображенията, използвани в проучването, са взети от уебсайт за запознанства. Както изтъкна Греггор Матсън, професор по социология в колежа Оберлинв публикация в блог, това означава, че самите изображения са предубедени, тъй като са избрани специално, за да привлекат някой с определена сексуална ориентация. Те почти сигурно отговарят на нашите културни очаквания за това как трябва да изглеждат гейовете и стрейт хората и, за да се стесни допълнително тяхната приложимост, всички субекти бяха бели, без включване на бисексуални или самоидентифицирани транс индивиди. Ако прав мъж избира най-стереотипно мъжествената си снимка за сайт за запознанства, това казва повече за това, което според него обществото иска от него, отколкото за връзка между формата на челюстта му и сексуалната му ориентация.

За да се уверят, че тяхната система разглежда само структурата на лицето, Косински и Уанг използваха софтуер, нареченVGG-Face, който кодира лица като низове от числа и се използва за задачи като зацапванетърсене на знаменитости в картини. Те пишат, че тази програма им позволява да минимизират ролята на преходни характеристики като осветление, поза и изражение на лицето.

Но изследователят Том Уайт, който работи върху системата за лице с изкуствен интелект, казва, че VGG-Face всъщност е много добър в приемането на тези елементи. Уайт посочи товав Twitter, и обясни наНа ръбапо имейл как той е тествал софтуера и го е използвал за успешно разграничаване между лица с изрази като неутрални и щастливи, както и пози и цвят на фона.

Фигура от хартията, показваща средните лица на участниците и разликата в структурите на лицето, които те идентифицираха между двата комплекта.

Изображение: Косински и Уанг

Говорейки сНа ръба, Косински казва, че той и Уанг са категорични, че неща като косата на лицето и гримабих могълда бъде фактор при вземането на решения на ИИ, но той поддържа, че структурата на лицето е най-важна. Ако погледнете цялостните свойства на VGG-Face, той има много малко значение върху преходните черти на лицето, казва Косински. Ние също така предоставяме доказателства, че нетрайните черти на лицето изглеждат предсказващи сексуалната ориентация.

Проблемът е, че не можем да знаем със сигурност. Косински и Уанг не са пуснали програмата, която са създали, или снимките, които са използвали, за да я обучат. Те тестват техния AI на други източници на снимки, за да видят дали той идентифицира някакъв фактор, общ за всички гейове и стрейт, но тези тестове бяха ограничени и също бяха извлечени от пристрастен набор от данни - снимки на профил във Facebook от мъже, които харесват страници като обичам Гей и гей и приказно.

leia organa carrie fisher

Служат ли мъжете от тези групи като разумни пълномощници за всички гей мъже? Вероятно не и Косински казва, че е възможно работата му да е грешна. Много повече изследвания ще трябва да бъдат проведени, за да се провери [това], казва той. Но е трудно да се каже как човек би могъл напълно да премахне пристрастията при подбора, за да извърши убедителен тест. Косински разказваНа ръба,Не е нужно да разбирате как работи моделът, за да проверите дали е правилен или не. Въпреки това, приемането на непрозрачността на алгоритмите прави този вид изследвания толкова затруднени.

Ако AI не може да покаже своята работа, можем ли да му се доверим?

Изследователите на AI не могат напълно да обяснят защо техните машини правят нещата, които правят. Това е предизвикателство, което преминава през цялото поле и понякога се нарича проблем с черната кутия. Поради методите, използвани за обучение на AI, тези програмине могат да покажат работата сипо същия начин, както прави нормалният софтуер, въпреки че изследователите работят по това изменение.

Междувременно това води до всякакви проблеми. Често срещано е, че сексистките и расистки пристрастия се улавят от хората в данните за обучение и се възпроизвеждат от AI. В случая с работата на Косински и Уанг, черната кутия им позволява да направят определен научен скок на вярата. Тъй като са уверени, че тяхната система анализира предимно лицевите структури, те казват, че техните изследвания показват, че лицевите структури предсказват сексуална ориентация. (Проучване 1а показа, че чертите на лицето, извлечени от [невронна мрежа], могат да се използват за точно идентифициране на сексуалната ориентация както на мъжете, така и на жените. “)

Биологията е малко по-нюансирана, отколкото често й приписваме.

Експертите казват, че това е подвеждащо твърдение, което не се подкрепя от най-новата наука. Може да има често срещана причина за формата на лицето и сексуалната ориентация - най-вероятната причина е балансът на хормоните в утробата - но това не означава, че формата на лицето е надежднапрогнозирасексуална ориентация, казва Кази Рахман, академик от King’s College London, който изучава биологията на сексуалната ориентация. Биологията е малко по-нюансирана, отколкото често й приписваме, казва тойНа ръба. Въпросът тук е силата на асоциацията.

Идеята, че сексуалната ориентация идва предимно от биологията, сама по себе си е противоречива. Рахман, който вярва, че сексуалната ориентация е предимно биологична, възхвалява работата на Косински и Уанг. Това не е наука за боклуци, казва той. По-скоро като наука, която някой не харесва. Но когато става въпрос запредсказванесексуална ориентация, той казва, че има цял пакет от нетипично поведение на пола, който трябва да се има предвид. Въпросът за мен е повече, че [изследването] пропуска смисъла и това е поведението.

Има ли гей ген? Или сексуалността е еднакво оформена от обществото и културата?

Илюстрация от Алекс Кастро / The Verge

Намаляването на въпроса за сексуалната ориентация до един измерим фактор в тялото има дълга и често безславна история. Както пише Матън в своятаблог пост, подходите варират от измервания на клизорите на лесбийките и бедрата на хомосексуалните мъже до края на 20-ти век, че са открили „гей гени“, „гей мозъци“, „гей безименни пръсти“, „лесбийски уши“ и „гей скалп“ косата. “Въздействието на тази работа е смесено, но в най-лошия случай е инструмент за потисничество: дава на хората, които искат да дехуманизират и преследват сексуалните малцинства, научен претекст.

Джени Дейвис, преподавател по социология в Австралийския национален университет, го описва като форма на биологичен есенциализъм. Това е убеждението, че неща като сексуалната ориентация се коренят в тялото. Този подход, казва тя, е с две остриета. От една страна, той прави полезно политическо нещо: отделяне на вината от еднополовите желания. Но от друга страна, това засилва обезценената позиция на този вид желание, като хетеросексуалността се определя като норма и се определя хомосексуалността като по-малко ценна ... нещо като болест.

И когато разглеждаме изследванията на Косински и Уанг в този контекст, разпознаването на лицето, задвижвано от ИИ, придобива още по-тъмен аспект - а именно, казват някои критици, като част от тенденцията към завръщането на физиономията, задвижвана от ИИ.

Вашият герой, чист като носа на лицето ви

В продължение на векове хората вярвали, че лицето е ключът към характера. Идеята се корени в древна Гърция, но е имала особено влияние през 19 век. Привържениците на физиономията предполагат, че чрез измерване на неща като ъгъла на нечие чело или формата на носа могат да определят дали човек е честен или престъпник. Миналата година в Китай изследователите на ИИ заявиха, че могат да направят същото, като използват разпознаване на лица.

Техните изследвания, публикувани катоАвтоматизирано заключение за престъпността с помощта на изображения на лица, предизвика лек шум в общността на ИИ. Учените посочиха недостатъци в проучването и стигнаха до заключението, че тази работа възпроизвежда човешките предразсъдъци относно това какво представлява подло или хубаво лице. В широко споделено опровержение, озаглавеноPhysiognomy’s New Clothes, Изследователят на Google Blaise Agüera y Arcas и двама съавтори писаха, че през следващите години трябва да очакваме повече изследвания, които имат подобни ... неверни твърдения за научна обективност, за да се „измият“ човешките предразсъдъци и дискриминация. (Google отказа да предостави Agüera y Arcas, за да коментира този доклад.)

Илюстрация на физиономията от Giambattista della Porta's На човешката физиогномония

Докладът на Косински и Уанг ясно признава опасностите от физиономията, като отбелязва, че практиката сега е универсално и с право се отхвърля като комбинация от суеверие и расизъм, прикрити като наука. Но те продължават, само защото дадена тема е табу, не означава, че няма основание в истината. Те казват, че тъй като хората са способни да четат характеристики като личност в лицата на други хора с ниска точност, машините трябва да могат да правят същото, но по-точно.

Косински казва, че изследванията му не са физиономия, тъй като използват строги научни методи, а неговият доклад цитира редица изследвания, които показват, че можем да изведем (с различна точност) черти за хората, като ги гледаме. Бях образован и накаран да повярвам, че е абсолютно невъзможно лицето да съдържа каквато и да е информация за вашите интимни черти, защото физиономията и френологията бяха просто псевдонауки, казва той. Но фактът, че те претендираха за неща без каквато и да било основа, че те измисляха неща, не означава, че тези неща не са реални. Той се съгласява, че физиономията не е наука, но казва, че в основните й понятия може да има истина, която компютрите могат да разкрият.

Интелигентността на AI не е изкуствена: тя е човешка

За Дейвис този вид отношение идва от широко разпространената и погрешна вяра в неутралността и обективността на AI. Изкуственият интелект всъщност не е изкуствен, казва тяНа ръба. Машините се учат както хората се учат. Ние сме преподавани чрез култура и възприемаме нормите на социалната структура, както и изкуственият интелект. Така че ще пресъздаде, усили и продължи по траекториите, на които сме го учили, които винаги ще отразяват съществуващите културни норми.

Вече създадохмесексистки и расистки алгоритми, а този вид културни пристрастия и физиономия всъщност са само две страни на една и съща монета: и двете разчитат на лоши доказателства, за да съдят другите. Работата на китайските изследователи е изключителен пример, но със сигурност не е единствената. Има понеедно стартираневече активен, който твърди, че може да забележи терористи и педофили, използвайки разпознаване на лица, а има и много други, които предлагат да анализират емоционалната интелигентност и да извършват наблюдение, задвижвано от ИИ.

Изправен пред това, което предстои

Но за да се върнем към въпросите, породени от тези тревожни заглавия за вестниците на Косински и Уанг: ще се използва ли ИИ за преследване на сексуални малцинства?

Тази система? Не. Различен? Може би.

Работата на Косински и Уанг не е невалидна, но резултатите от нея се нуждаят от сериозни квалификации и допълнителни тестове. Без това всичко, което знаем за тяхната система, е, че тя може да забележи с известна надеждност разликата между самоидентифициралите се гей и прави бели хора в един конкретен сайт за запознанства. Не знаем, че е забелязана биологична разлика, характерна за всички хомосексуални и хомосексуални хора; не знаем дали ще работи с по-широк набор от снимки; и работата не показва, че сексуалната ориентация може да бъде изведена с нищо повече, освен, например, измерване на челюстта. Това не е декодирана човешка сексуалност, както AI chatbots са декодирали изкуството на добър разговор. (Нито авторите му правят такова твърдение.)

Startup Faception твърди, че може да установи колко вероятно е хората да бъдат терористи, само като погледне лицето им.

Изображение: Faception

Изследването е публикувано, за да предупреди хората, казва Косински, но той признава, че е неизбежен парадокс, че за да направите това, трябва да обясните как сте направили това, което сте направили. Всички инструменти, използвани в хартията, са достъпни за всеки, който може сам да намери и събере. Писане в сайта за дълбоко обучение Fast.ai, изследовател Джереми Хауърдзаключава: Вероятно е разумно [sic] да се предположи, че много организации вече са изпълнили подобни проекти, но без да ги публикуват в академичната литература.

Вече споменахме стартиращи фирми, работещи по тази технология, и не е трудно да се намерят правителствени режими, които да я използват. В страни като Иран и Саудитска Арабия хомосексуалността все още се наказва със смърт; в много други страни да си гей означава да бъдеш преследван, затворен и измъчван от държавата. Последните доклади говорят за откриването наконцентрационни лагери за гей мъжев Чеченската република, и какво, ако някой там реши да направи свой собствен AI гайдар и да сканира профилни снимки от руските социални медии?

Тук става ясно, че точността на системи като Kosinski и Wang’s не е всъщност въпросът. Ако хоратавярвамAI може да се използва за определяне на сексуалните предпочитания, те ще го използват. Имайки това предвид, по-важно от всякога е да разберем ограниченията на изкуствения интелект, да се опитаме да неутрализираме опасностите, преди те да започнат да въздействат върху хората. Преди да научим машините на своите предразсъдъци, първо трябва да се научим.