IBM вече няма да предлага, разработва или изследва технология за разпознаване на лица

Главният изпълнителен директор на IBM казва, че трябва да преоценим продажбата на технологията на органите на реда

Илюстрация от Алекс Кастро / The Verge

IBM вече няма да предлага софтуер за разпознаване или анализ на лица с общо предназначение, заяви главният изпълнителен директор на IBM Арвинд Кришнаписмо до Конгреса днес. Компанията вече няма да разработва или изследва технологията, казва IBMНа ръба. Кришна се обърна с писмото до сенс Кори Кори Букър (D-NJ) и Камала Харис (D-CA) и представители Карън Бас (D-CA), Hakeem Jeffries (D-NY) и Джеролд Надлър (D-NY).



IBM твърдо се противопоставя и няма да одобри използването на която и да е технология за [разпознаване на лица], включително технология за разпознаване на лица, предлагана от други доставчици, за масово наблюдение, расово профилиране, нарушения на основни човешки права и свободи или за някаква цел, която не е в съответствие с нашите ценности иПринципи на доверие и прозрачност, Каза Кришна в писмото. Вярваме, че сега е моментът да започнем национален диалог за това дали и как технологията за разпознаване на лица трябва да се използва от националните правоприлагащи органи.



Софтуерът за разпознаване на лица е подложен на проверка за проблеми с расови пристрастия и опасения относно поверителността

Софтуерът за разпознаване на лица се подобри значително през последното десетилетие благодарение на напредъка в изкуствения интелект. В същото време е доказано, че технологията - тъй като тя често се предоставя от частни компании с малко регулация или федерален надзор - страда от пристрастия по отношение на възраст, раса и етническа принадлежност, което може да направи инструментите ненадеждни за правоприлагането и сигурност и зрели за потенциални нарушения на гражданските права.

През 2018 г. проучване на Joy Buolamwini и Timnit Gebruразкриза първи път степента, до която много търговски системи за разпознаване на лица (включително IBM) бяха предубедени. Тази работа и последващите проучвания на двойката доведоха до основна критика към тези алгоритми и продължаващи опити за коригиране на пристрастията.



Проучване на Националния институт за стандарти и технологии от декември 2019 г. открива емпирични доказателства за съществуването на широк диапазон от точност на демографските разлики в повечето от сегашните алгоритми за разпознаване на лица, които са били оценени например. Технологията също е подложена на огън заради ролята си в нарушаване на поверителността.

Забележително е, че проучването на NIST не включва технологии от Amazon, която е една от малкото големи технологични компании, които продават софтуер за разпознаване на лица на органите на реда. И все пак Rekognance, името на програмата, също е критикувано за нейната точност. През 2018 г. Американският съюз за граждански свободи установи, че Rekogmination неправилно е съчетал 28 членове на Конгреса с лица, избрани от 25 000 публични снимки, например.

Друга компания, Clearview AI, е подложена на строг контролзапочвайки по-рано тази годинакогато беше открито, че неговият инструмент за разпознаване на лица, изграден с повече от 3 милиарда изображения, съставени частично от изстъргване на сайтове в социални медии, се използва широко от компании от частния сектор и правоприлагащи органи. Оттогава Clearview е издал множество заповеди за прекратяване и отказване и е в центъра на редица дела за поверителност. През януари на Facebook също беше наредено да плати 550 милиона долара за уреждане на съдебен иск за незаконно използване на технологията за разпознаване на лица.



IBM се опита да помогне с проблема с пристрастия при разпознаване на лица, като публикува публичен набор от данни през 2018 г., предназначен да помогне за намаляване на пристрастията като част от данните за обучение за модел за разпознаване на лица. Но беше установено, че IBM споделя и отделен набор от данни за обучение от близо един милион снимкипрез януари 2019гвзети от Flickr без съгласието на обектите - макар снимките да са били споделени под лиценз Creative Commons. IBM казаThe Vergд в изявление по това време, че наборът от данни ще бъде достъпен само от проверени изследователи и включва само изображения, които са публично достъпни. Компанията също така заяви, че физическите лица могат да се откажат от набора от данни.

В писмото си Кришна също се застъпи за реформа на полицията, като аргументира, че повече дела за неправомерно поведение на полицията трябва да бъдат поставени под компетенцията на федералния съд и че Конгресът трябва да направи промени в доктрината за квалифициран имунитет, наред с други мерки. В допълнение, Кришна каза, че трябва да създадем по-отворени и справедливи пътища за всички американци, за да придобият пазарни умения и обучение, и предложи Конгресът да обмисли мащабиране на училищния модел P-TECH на национално ниво и разширяване на допустимостта за Pell Grants.

sonus 2 плюс

Свързани

IBM не информира хората, когато използва техните снимки от Flickr за обучение по разпознаване на лица

IBM се надява да се пребори с пристрастията при разпознаването на лица с нов разнообразен набор от данни

Актуализация, 9 юни, 02:45 ч. ET: Тази история е актуализирана за справка с работата на изследователите на ИИ Джой Буоламвини и Тимнит Гебру, чиято 2018 Пол нюанси проектът предостави първите изчерпателни емпирични данни за пристрастия в системите за разпознаване на лица.