Как отличить гея: Как узнать, что он — гей. Пили кофе, разговаривали, — так… | by Konstantin Kropotkin

Вот где работа Косинского впадает в биологический детерминизм. Хотя он не отрицает влияния социальных факторов и факторов окружающей среды на нашу личность, он преуменьшает их значение. Иногда то, что он говорит, пугающе напоминает Ломброзо, который критиковал идею о том, что преступники обладают «свободой воли»: их следует скорее жалеть, чем наказывать, утверждал итальянец, потому что, подобно обезьянам, кошкам и кукушкам, они «были» запрограммированы причинять вред ».

«Я не верю в вину, потому что не верю в свободу воли», — говорит мне Косински, объясняя, что мысли и поведение человека «полностью биологические, потому что они берут начало в биологическом компьютере, который находится в вашем голова». В другой раз он сказал мне: «Если вы в принципе согласитесь с тем, что мы просто компьютеры, то компьютеры не виновны в преступлении. Компьютеры могут работать неправильно. Но тогда не стоит их винить в этом ». Профессор добавляет: «Очень похоже: вы, как правило, не обвиняете собак в плохом поведении.

Тодоров считает, что исследование Косинского «чрезвычайно сомнительно с этической точки зрения», поскольку оно может придать видимость доверия правительствам, которые могут захотеть использовать такие технологии. Он указывает на статью, появившуюся в сети два года назад, в которой китайские исследователи ИИ утверждали, что обучили алгоритм распознавания лиц предсказывать — с точностью 90% — является ли кто-то осужденным преступником. Исследование, в котором использовались фотографии сотен мужчин-преступников, сделанные правительством Китая, не подвергалось рецензированию и было разорвано на куски Тодоровым, который предупредил, что «развитие искусственного интеллекта и машинного обучения позволило научному расизму вступить в новую эру». .

У Косински другой взгляд. «Тот факт, что результаты были полностью недействительными и необоснованными, не означает, что то, что они предлагают, также неверно», — говорит он. «Я не понимаю, почему вы не можете предсказать склонность к совершению преступления по чьему-то лицу. Мы знаем, например, что уровни тестостерона связаны со склонностью к совершению преступлений, а также с чертами лица — и это всего лишь одна связь. Есть тысячи или миллионы других, о которых мы не подозреваем, которые компьютеры могут очень легко обнаружить. ”

Провёл бы он когда-нибудь подобное исследование? Косинский колеблется, говоря, что «преступление» — это слишком тупой ярлык. По его словам, было бы более разумным «посмотреть, можем ли мы выявить черты или предрасположенности, которые потенциально опасны для человека или общества, например агрессивное поведение». Он добавляет: «Я думаю, что кто-то должен это сделать … Потому что, если это рискованная технология, то правительства и корпорации явно уже используют ее».

***

Но когда я предлагаю Косински привести примеры того, как правительства используют искусственный интеллект, определяющий психологию, он постоянно обращается к малоизвестному израильскому стартапу Faception.Компания предоставляет программное обеспечение, которое сканирует паспорта, визы и профили в социальных сетях, прежде чем выставлять оценки, которые классифицируют людей по нескольким типам личности. На своем веб-сайте Faception перечисляет восемь таких классификаторов, в том числе «преступник из белых воротничков», «высокий IQ», «педофил» и «террорист». Косински описывает компанию как «хитрую» — пример того, почему исследователи, заботящиеся о конфиденциальности, должны предупреждать общественность о рисках ИИ. «Проверьте, чем занимается Faception и какие клиенты у них есть», — говорит он мне во время оживленных дебатов по поводу этики своего исследования.

Я звоню главному исполнительному директору Faception Шаю Гильбоа, который раньше работал в израильской военной разведке. Он сказал мне, что у компании есть контракты на «внутреннюю и общественную безопасность» в Азии, на Ближнем Востоке и в Европе. К моему удивлению, он затем рассказал мне о совместном исследовании, которое он провел два года назад. «Когда вы смотрите на академический рынок, вы ищете лучших исследователей, у которых есть очень хорошие базы данных и большой опыт, — говорит он. «Вот почему мы обратились к профессору Косински.

Но когда я связал эту связь с Косинским, он преуменьшает значение: он утверждает, что встречался с Faception, чтобы обсудить этику технологий распознавания лиц. «Они приехали [в Стэнфорд], потому что осознали, что то, что они делают, имеет потенциально огромные негативные последствия и огромные риски». Позже он признает, что это было еще не все. Он встречался с ними «может быть, трижды» в Кремниевой долине, и ему предложили долю в компании в обмен на то, чтобы стать советником (он говорит, что отказался).

Косински отрицает участие в исследованиях, но признает, что Faception предоставила ему доступ к своему программному обеспечению для распознавания лиц.По его словам, он экспериментировал с фотографиями Facebook в наборе данных myPersonality, чтобы определить, насколько эффективно программа Faception обнаруживает черты личности. Затем он предложил Гильбоа поговорить со Стиллвеллом о покупке данных myPersonality. (Стиллвелл, по словам Косински, отказался.)

Его раздражает мое предположение, что эти разговоры кажутся этически сомнительными. «Я буду много заниматься этим», — говорит он. «Многие стартапы приходят сюда, и они не предлагают вам денег, но они говорят:« Послушайте, у нас есть этот проект, вы можете нам посоветовать? »». Отклонение такой просьбы сделало бы его «высокомерным придурком. ».

Он дает аналогичное объяснение своей поездки в Москву, которая, по его словам, была организована Корпоративным университетом Сбербанка как «образовательный день» для российских государственных чиновников. Университет является дочерней структурой Сбербанка, государственного банка, находящегося под санкциями ЕС; ее глава, бывший министр экономического развития России, близок к Путину. С какой целью была поездка? «Я действительно не понимал контекста, — говорит Косински. «Они посадили меня в вертолет, привезли на место, я вышел на сцену.В вертолете меня проинформировали о том, кто будет в комнате. Затем я выступил с докладом, и мы поговорили о том, как ИИ меняет общество. А потом меня отправили ».

В последний раз, когда я вижу Косински, мы встречаемся в Лондоне. Он становится колючим, когда я нападаю на Россию, указывая на ее ужасающие показатели в отношении прав геев. Он говорил об использовании технологии распознавания лиц для определения сексуальности? Да, говорит он, но этот доклад ничем не отличался от других презентаций, в которых он обсуждал то же исследование. (Пару дней спустя Косинский говорит мне, что он проверил свои слайды; на самом деле, он говорит, что не рассказывал русским о своем «AI-гайдаре».)

Кто еще был в аудитории, кроме Медведева и Лавров? Косинский не знает. Возможно ли, что он разговаривал с комнатой, полной сотрудников российской разведки? «Верно», — говорит он. «Но я думаю, что люди, которые работают на государство слежки, больше, чем кто-либо, заслуживают знать, что то, что они делают, создает реальный риск». Он говорит мне, что не является поклонником России, и подчеркивает, что не было разговоров о шпионаже или влиянии на выборы.«Как ученый, вы обязаны противостоять плохим идеям и распространять хорошие идеи», — говорит он, добавляя, что будет разговаривать с «самым презренным диктатором».

Я спрашиваю Косинского, пытался ли кто-нибудь завербовать его в качестве разведчика. Он изгороди. «Как вы думаете, если к вам подходит спецслужба, они говорят:« Привет, я ЦРУ »?» он отвечает. «Нет, они говорят:« Привет, я стартап, и мне интересна ваша работа — вы бы были советником? »Это определенно произошло в Великобритании. Когда я был в Кембридже, у меня был воспитатель.Он рассказывает мне о британском эксперте по вопросам обороны, который, как он подозревал, работал в разведывательных службах, который проявил большой интерес к его исследованиям и пригласил его на семинары, посещаемые чиновниками в военной форме.

В одном из наших последних разговоров Косинский сказал мне, что ему не следовало рассказывать о своем визите в Москву, потому что хозяева попросили его не делать этого. По его словам, упоминать об этом в «Гардиан» было бы не «элегантно», и, кроме того, «это несущественный факт». Я отмечаю, что он уже оставил довольно большую подсказку в Facebook, где разместил свое изображение на борту вертолета с подписью: «Взлетает, чтобы выступить с докладом для премьер-министра Медведева.Позже он изменил настройки конфиденциальности: фотография больше не была общедоступной, а была предназначена «только для друзей».

• Комментарии к этой статье предварительно модерируются, чтобы обеспечить продолжение обсуждения по темам, поднятым в статье.

Комментируете статью? Если вы хотите, чтобы ваш комментарий был рассмотрен для включения на страницу писем журнала Weekend в печати, отправьте электронное письмо по адресу [email protected], указав свое имя и адрес (не для публикации).

Это «гайдарское» исследование психолога доставляет нам дискомфорт.В этом-то и дело.

В сентябре исследователь из Стэнфорда Михал Косински опубликовал препринт статьи, в которой было сделано диковинное утверждение: фотографии профиля, которые мы загружаем в социальные сети и сайты знакомств, могут использоваться для прогнозирования нашей сексуальной ориентации.

Косински, польский психолог, изучающий человеческое поведение по следам, которые мы оставляем в сети, имеет большой послужной список поразительных результатов. В 2013 году он стал соавтором статьи, в которой выяснилось, что «лайки» людей в Facebook можно использовать для прогнозирования личных характеристик, таких как личностные черты (открытие, которое, как сообщается, вдохновило консервативную информационную компанию Cambridge Analytica).

Для новой газеты Косински вместе со своим соавтором Илунь Ванем создал программу, используя обычную программу искусственного интеллекта для сканирования более 30 000 фотографий, загруженных на неназванный сайт знакомств. Работа программного обеспечения? Чтобы выяснить, чем можно отличить лицо гея от лица обычного человека.

При выборе между парой фотографий полученная программа точно определила мужчину-гея в 81% случаев и женщину-гея в 71% случаев. Исследователи также попросили людей выполнить ту же задачу — и им это удалось хуже, правильно угадав в 54–61% случаев.

Более спорно, Косинские и бумага Вана утверждали, что программа своего решения на основании различий в строении лица; что лица мужчин-геев были более женственными, а лица женщин-лесбиянок — более мужскими. Они предположили, что это открытие соответствует теории пренатальных гормонов сексуальной ориентации, которая предполагает, что наша сексуальность частично определяется воздействием гормонов в утробе матери. Этот вывод горячо оспаривается некоторыми из их коллег, которые заявляют, что исследование противоречит тому факту, что фотографии были загружены самими пользователями, а не сделаны в нейтральной лаборатории.(Прочтите подробный анализ этих выводов здесь).

Но даже если алгоритм просто улавливает личный выбор, результат кажется тревожным, как первый камень на пути к будущему Black Mirror .

группы по защите прав ЛГБТК осудили исследование, заявив, что оно основано на псевдонауке и представляет опасность для членов ЛГБТ-сообщества по всему миру. Другие исследователи психологии осудили это как физиогномику, давно не существующую псевдонауку, приписывающую черты личности физическим характеристикам.Ожидается, что газета выйдет в февральском выпуске журнала Personality and Social Psychology.

Косински настаивает на том, что его намерением было никогда никого не выдать, а скорее предупредить нас о быстром исчезновении частной жизни.

И сексуальная ориентация, утверждает он, — это начало. Многие другие аспекты нашей внутренней жизни — например, черты личности — могут быть закодированы на наших лицах. Это также спорная идея, которая восходит к псевдонауке физиогномики.

Когда я разговаривал с Косински в ноябре в его офисе в Стэнфорде, меня больше всего интересовало, , почему он задает эти противоречивые исследовательские вопросы, и является ли его «предупреждение» о потере конфиденциальности на самом деле просто планом для ее достижения.Он утверждает, что эти технологии уже используются и имеют огромный потенциал для неправильного использования.

Отрасли промышленности, правительства и даже психологи могут исследовать цифровые следы, которые мы оставляем повсюду, и узнавать о себе то, чем мы не обязательно были бы готовы поделиться. «По сути, в будущем приватности не будет», — говорит он.

Этот разговор отредактирован для большей ясности.

Косинский хочет изучать человеческое поведение с помощью цифровых следов

Брайан Резник

За последние несколько лет вы стали довольно знаменитыми. Я впервые познакомился с вашей работой по получению профилей личности из Facebook. [Это работа, которая вдохновит Cambridge Analytica.]

Но это совсем другая история, чем машина «гайдар».

Михал Косински

Это точно такая же история.

Брайан Резник

Действительно. Как так?

Михал Косински

Моя главная цель — попытаться лучше понять людей, социальные процессы и поведение через призму цифровых следов.

Оказалось, что изучать человеческое поведение и психологию с помощью больших данных довольно сложно. Но в этом есть огромные перспективы. Что интересно, так это крошечные детали, которые мы действительно можем заметить в больших данных, и эффект может быть крошечным.

Вы можете легко создать «черный ящик», который будет использовать некоторые из этих цифровых данных и давать очень точные прогнозы будущего поведения и психологических особенностей. Изучая, что находится внутри этого черного ящика, мы можем лучше понять поведение. Даже не изучая черный ящик, мы уже знаем, что компьютер, по-своему, понимал ссылки.

Брайан Резник

Под «черным ящиком» вы подразумеваете искусственный интеллект и нейронные сети. Вот где компьютеры обучаются делать прогнозы на основе данных, но вы, исследователь, не знаете, как он делает прогнозы. Этот прогноз может быть интересным, но он не всегда помогает высказать гипотезу о том, что происходит на самом деле.

Михал Косински

Совершенно верно.

Оказывается, он слишком точен при предсказаниях.

Мы знаем, что компании уже собирают эти данные и используют такие черные ящики для прогнозирования будущего поведения. Google, Facebook и Netflix делают это.

По сути, большинство современных платформ виртуально основаны только на записи цифровых следов и прогнозировании будущего поведения.

Почему компьютеры могут лучше распознавать лица, чем люди

Брайан Резник

Итак, для этого проекта вы изучили цифровой отпечаток профиля: более 35 000 фотографий, полученных с сайта знакомств. Почему вы хотели изучать лица?

Михал Косински

Несколько причин.

Во-первых, может быть, всего пять лет назад компьютерные технологии достигли той стадии, когда вы можете запускать [эти] анализы на своем компьютере или портативном компьютере, в отличие от необходимости в суперкомпьютере.

Раньше мы просто не могли этого сделать. Мы могли бы изучать лица, но нам пришлось бы использовать очень неточные меры. У нас были люди, которые судили по лицам.

Брайан Резник

Хорошо.Но почему вы думали, что компьютер может соотносить черты лица с личными характеристиками?

Михал Косински

Люди могут предугадывать интимные черты других по лицам. Пол является примером. Эмоции, возраст, синдром Дауна, пороки развития. По лицам людей можно различить множество вещей.

Кто-то сказал мне в ответ на мою недавнюю статью, что «экстраординарные утверждения требуют чрезвычайных доказательств». Что меня поражает, так это утверждение, что на вашем лице нет никаких признаков сексуальной ориентации, потому что многие другие вещи — пол, возраст и т. Д. — оставляют следы на человеческих лицах.

Психологи скажут: «О да, это правда, но не личность. Это просто лженаука ». Я подожди. Вы можете согласиться с тем, что можете предсказать 57 вещей, но если я скажу: «А как насчет 58?» вы говорите: «Это абсолютно теоретически невозможно. Это лженаука. Как ты вообще можешь такое сказать? »

Брайан Резник

Люди не очень хорошо понимают сексуальную ориентацию, просто глядя на лицо человека. Почему нейронная сеть будет лучше?

Михал Косински

Везде, где мы пытаемся применить нейронные сети, чтобы делать то, что люди делали раньше, с очень небольшими изменениями можно получить результаты лучше, чем те, что могут сделать люди.Это удивительно — во многих случаях, как и в случае беспилотных автомобилей, они уже безопаснее людей. Самолеты приземляются. У нас есть все те инструменты на основе ИИ, которые делают нашу жизнь лучше.

У нас есть многолетние свидетельства того, что люди оценивают личность, интеллект и политические взгляды по лицам людей с небольшой точностью.

Почему? Может быть, потому что люди не могут воспринимать [эти вещи]. [Например,] мы фокусируемся на морщинах вокруг глаз, потому что это полезно для оценки эмоций.Но мы не уделяем внимания морщинам где-то еще. [Это означает, что на лице могут быть какие-то ключи к разгадке сексуальности или личности человека, на которые мы просто не обращаем внимания.]

Во-вторых, возможно, люди, даже если они воспринимают, не могут интерпретировать. [То есть мы видим на лице человека знаки, которые связаны с его личностью или сексуальной ориентацией, но не соединяем точки.] Наши нейронные сети могут быть лучше обучены судить.

«Не могли бы вы проверить, насколько опасна эта бомба?»

Брайан Резник

Из всех личных черт или характеристик, которые нужно было изучить, почему вы выбрали сексуальную ориентацию для этой статьи? Это наверняка будет спорным.

Михал Косински

Потому что это очень срочно. Я уже проводил исследования политических взглядов, личности, IQ и множества других вещей. Те другие вещи, они интересны. Они потенциально важны. Но когда дело доходит до сексуальной ориентации, это очень срочно.

Если вы спросите меня: «Эй, Михал, почему бы тебе не стать ученым, чтобы создать взрывчатку, чтобы построить новую большую бомбу?» Я бы сказал: «Я не думаю, что люди должны это делать».

Теперь, если вы спросите меня: «У нас уже есть эта бомба.У нас есть эти алгоритмы. Не могли бы вы проверить, насколько опасна эта бомба? » По сути, это то, что я пытался сделать. Я считаю, что это действительно важный аспект, потому что опасность уже есть. У нас есть риск, и мы пытаемся найти способы его нейтрализовать.

Умный человек с компьютером и доступом к Интернету может судить о сексуальной ориентации любого человека в мире или миллионов людей одновременно с очень небольшими усилиями, что делает жизнь гомофобов и репрессивных режимов чуть-чуть проще.

Брайан Резник

Вы говорите, что это исследование отчасти является предупреждением о потере конфиденциальности. Но тогда, разве вы не даете миру план вторжения в личную жизнь людей?

[Примечание: я должен упомянуть, что машина «гайдар», созданная Косински, не совсем практична для использования в реальном мире. Алгоритм был протестирован путем анализа пар фотографий, на одной фотографии натурального человека, а другой — гея. Компьютеру приходилось угадывать, кто гей. Он сделал правильный выбор в 81% случаев.Это не то же самое, что выбрать семерых геев из 100.]

Михал Косински

Я беру существующее оружие [ИИ и распознавание лиц] и говорю, что оно уже используется.

Брайан Резник

Кто этим пользуется?

Михал Косински

Правительства уже делают это на практике.

[Примечание: есть один стартап Faception, который утверждает, что может обнаруживать террористов или педофилов, просто глядя на лица, и заявляет, что у него есть контракты с правительствами. Сообщалось, что Косински был советником Faception. Он говорит, что это неверная характеристика и что он не принимает от них денег. Он говорит: «Я рад дать совет» и: «Послушайте, если вы изучаете, насколько опасны химические вещества, вам следует консультировать компании, производящие химические вещества».]

Многие опасаются, что искусственный интеллект будет использоваться только для дискриминации под видом объективности

Брайан Резник

ИИ опасается, что эти сети на самом деле просто изучают стереотипы.

Что касается фотографий сексуальной ориентации людей, то в своей газете вы отметили, что это фотографии, выбранные людьми самостоятельно. Вы не взяли 30 000 человек и не привели их в лабораторию и не сделали совершенно нейтральные фотографии. Таким образом, ваша программа может подбирать другие вещи, помимо формы лица, например, макияж или уход за телом. Что он не зацикливается на чем-то биологическом, как утверждается в вашей статье, а на выборе.

Михал Косински

Вся суть этой статьи в том, что вам не нужно приводить людей в лабораторию.Вы можете просто сфотографировать их на Facebook или на сайте знакомств, и предсказание станет возможным.

Вся идея машинного обучения заключается в том, что вы можете обучить его на исходном образце, а затем, когда машина будет работать, она просто начнет сопоставлять шаблоны, замечать шаблоны и обогащать модель.

Я ожидаю, что если вы возьмете модель, обученную на сайтах знакомств, и примените ее к базе данных DMV с фотографиями водительских прав, вначале, первые несколько тысяч, у модели, вероятно, возникнут трудности.Например, узнайте, есть ли новый образец освещения или что-то еще, но это идея машинного обучения и нейронных сетей. Он автоматически настроится. Даже без каких-либо дополнительных данных обучения это повысит точность. Он узнает о закономерностях в новых изображениях.

Брайан Резник

Из Китая вышла статья, в которой исследователи использовали распознавание лиц, чтобы посмотреть на фотографии водительских прав и предсказать, кто является преступником. Предполагалось, что точность составляет 89,5%.Я разговаривал с некоторыми экспертами по этому поводу, и больше всего беспокоило следующее: что улавливает эта программа? Может быть, в системе правосудия дискриминируются физические особенности определенных этнических групп?

Михал Косински

Можно, но стереотипы тоже могут быть верными. Может быть, геи … не знаю, иначе говорят. Но может также быть правдой и то, что до некоторой степени они говорят иначе. Но у людей есть проблема с оценкой вероятности.

Прелесть компьютера в том, что он может выйти за рамки стереотипов. Используйте стереотип правильно. Мол, стереотип, созданный компьютером, будет верным. Это вещь, управляемая данными.

Дело в том, что даже если прогноз не очень точен, вы можете отсортировать людей от наиболее вероятных к наименее вероятным и просто сосредоточить свои усилия на вершине. Что касается, скажем, поиска преступников, таких как люди, которые хотят взорвать себя или убить вашу бабушку, я думаю, что все еще существуют проблемы с использованием такой технологии для обнаружения таких людей, но я открыт для обсуждения.

Будут предвзятости. В ИИ нет ничего идеального.

Брайан Резник

Допустим, вы выполняли проект по машинному обучению, используя фотографии полицейских из США.

Разве программа машинного обучения не узнает о расовых предрассудках в нашей системе правосудия? Но он не узнает, что это расовые предрассудки — он просто начнет ассоциировать темный цвет лица с преступностью.А затем, если вы использовали эту машину, чтобы предсказать, кто является преступником, все, что вам нужно сделать, это укрепить стереотип.

Михал Косински

Если натренировали модель тупо, то конечно. Вы можете сделать алгоритм настолько расистским, каким еще не было ни одного человека в истории. Вы можете сделать глупую вещь, без вопросов.

Мы можем обучать алгоритмы таким образом, чтобы не быть расистами, минимизировать эти предубеждения и, в отличие от людей, мы можем контролировать эти предубеждения.Мы можем изучить, как работают алгоритмы.

Также мы должны сравнить алгоритмы с тем, что у нас уже есть.

Люди говорят: «О, если вы используете алгоритмический прием на работу, вынесение приговоров или еще что-нибудь, возникнут предубеждения». Я согласен.

Будут предвзятости. В ИИ нет ничего идеального. Он не идеален, но всегда нужно сравнивать его со статус-кво.

Какая альтернатива? Альтернатива — использование людей. Люди расисты, сексисты, эйджисты, коррумпированы, несправедливы, устают, и мы это знаем.Мы это прекрасно понимаем.

Люди думают, что мораль находится за пределами науки. Честность выходит за рамки науки. Это, конечно, глупо.

Брайан Резник

Вы понимаете, почему люди этого боялись?

Михал Косински

Я понимаю внутреннее чувство. Я пишу эту статью не с удовольствием. Меня пугает, что это возможно. Я бы хотел, чтобы эти результаты не повторились. Это просто означало бы, что у нас, как у человечества, на одну проблему меньше, но дайте мне возможность сесть и поговорить с вами с кем-нибудь и фактически показать им газету.Пусть они прочитают газету, и ненависть исчезнет.

У меня был ряд подобных случаев, в том числе с людьми, которые присылали мне угрозы убийством.

Брайан Резник

В чем тут важная история? Вывод.

Михал Косински

Самое важное в том, что в ближайшее время у нас не будет конфиденциальности. Я сторонник законов и технологий, защищающих конфиденциальность, но люди все время забывают, что они просто обречены на провал. Equifax обладает потрясающими технологиями защиты данных.Если крупные компании и правительства не могут защитить свои данные, как вы можете поверить, что вы, наши читатели или я сможем защитить наши данные? Мотивированная партия готова их заполучить. Они получат данные, как бы сильно они их ни зашифровали.

Кроме того, даже если мы каким-то волшебным образом получим полный контроль над нашими данными, мы все равно хотим поделиться ими. Мы хотим твитнуть. Мы хотим писать на Facebook. Мы хотим гулять по улицам, не закрывая лицо и не искажая голос. Этого уже достаточно, чтобы делать очень точные предсказания моих чувствительных качеств [таких как личность, политика, богатство].По сути, в будущем не будет никакой конфиденциальности.

Брайан Резник

Мы ничего не можем сделать.

Михал Косински

Мы мало что можем сделать.

Теперь мы должны сесть, и чем раньше мы сядем и начнем думать о том, как сделать так, чтобы мир пост-приватности — или пост-приватный мир для некоторых людей, например, для бедных, обездоленных людей, живущих в нелиберальных странах, незападные страны, если их мир внезапно становится миром пост-приватности — как мы можем убедиться, что это по-прежнему безопасное и пригодное для жизни место?

Поддержите объяснительную журналистику Vox

Каждый день в Vox мы стремимся отвечать на ваши самые важные вопросы и предоставлять вам и нашей аудитории во всем мире информацию, которая поможет вам понять. Работа Vox охватывает больше людей, чем когда-либо, но наш отличительный бренд объяснительной журналистики требует ресурсов. Ваш финансовый вклад не будет представлять собой пожертвование, но он позволит нашим сотрудникам продолжать предлагать бесплатные статьи, видео и подкасты всем, кто в них нуждается. Пожалуйста, подумайте о том, чтобы сделать взнос в Vox уже сегодня, всего от 3 долларов.

AI может определить по фотографии, гей вы или натурал

Искусственный интеллект может точно угадать, геи люди или натуралы, по фотографиям их лиц, согласно новому исследованию, предполагающему, что машины могут иметь значительно лучший «гайдар», чем люди.

Исследование Стэнфордского университета, которое показало, что компьютерный алгоритм может правильно различать геев и гетеросексуалов в 81% случаев и 74% для женщин, подняло вопросы о биологическом происхождении сексуальной ориентации, этике лица. -технология обнаружения и возможность такого программного обеспечения нарушать конфиденциальность людей или использоваться в целях борьбы с ЛГБТ.

Машинный интеллект, протестированный в исследовании, опубликованном в Journal of Personality and Social Psychology и впервые опубликованном в Economist, был основан на выборке из более чем 35 000 изображений лиц, которые мужчины и женщины публично разместили на сайте знакомств в США.

Исследователи Михал Косински и Илун Ван извлекли элементы из изображений с помощью «глубоких нейронных сетей», что означает сложную математическую систему, которая учится анализировать визуальные эффекты на основе большого набора данных.

Стили ухода

Исследование показало, что мужчины и женщины-геи, как правило, имеют «гендерно-атипичные» черты лица, выражения и «стили ухода», что по сути означает, что геи выглядят более женственными и наоборот. Данные также выявили определенные тенденции, в том числе то, что у геев были более узкие челюсти, более длинные носы и больший лоб, чем у гетеросексуалов, и что у геев были более крупные челюсти и меньший лоб по сравнению с гетеросексуальными женщинами.

Судьи-люди работали намного хуже алгоритма, точно определяя ориентацию только в 61% случаев для мужчин и 54% для женщин. Когда программа проанализировала пять изображений на человека, она оказалась еще более успешной — 91 процент времени с мужчинами и 83 процента с женщинами.

В широком смысле это означает, что «лица содержат гораздо больше информации о сексуальной ориентации, чем может воспринять и интерпретировать человеческий мозг», — пишут авторы.

В документе высказывается предположение, что полученные данные «убедительно подтверждают» теорию о том, что сексуальная ориентация возникает в результате воздействия определенных гормонов до рождения, что означает, что люди рождаются геями, и быть гомосексуалистом нельзя.

Более низкий показатель успешности использования машины для женщин также может служить подтверждением того, что женская сексуальная ориентация более изменчива.

Последствия

Хотя результаты имеют четкие пределы, когда дело доходит до пола и сексуальности — цветные люди не были включены в исследование, и не рассматривались трансгендеры или бисексуалы — последствия для искусственного интеллекта (ИИ) огромны и тревожно. С помощью миллиардов изображений лиц людей, хранящихся в социальных сетях и в государственных базах данных, исследователи предположили, что общедоступные данные могут использоваться для определения сексуальной ориентации людей без их согласия.

Легко представить, что супруги используют эту технологию на партнерах, которые, как они подозревают, закрыты, или подростки используют алгоритм на себе или своих сверстниках. Еще более пугающе то, что правительства, которые продолжают преследовать ЛГБТ в судебном порядке, гипотетически могут использовать эту технологию для охвата и охвата населения.Это означает, что создание такого программного обеспечения и его публикация вызывает споры, учитывая опасения, что это может способствовать появлению вредоносных приложений.

Но авторы утверждали, что технология уже существует, и ее возможности важно раскрыть, чтобы правительства и компании могли проактивно учитывать риски конфиденциальности и необходимость мер безопасности и регулирования.

«Это определенно тревожно.Как и любой новый инструмент, если он попадет в чужие руки, он может быть использован в дурных целях », — сказал Ник Рул, доцент психологии Университета Торонто, опубликовавший исследование о науке гайдар. «Если вы можете начать профилировать людей по их внешнему виду, а затем идентифицировать их и делать с ними ужасные вещи, это действительно плохо».

Rule утверждал, что разработка и тестирование этой технологии все еще важны: «Авторы сделали здесь очень смелое заявление о том, насколько мощной она может быть… Теперь мы знаем, что нам нужна защита ».

Косински не был доступен для интервью. Профессор известен своей работой с Кембриджским университетом по психометрическому профилированию, включая использование данных Facebook для заключения о личности.

Кампания Дональда Трампа и сторонники Брексита использовали аналогичные инструменты для нацеливания на избирателей, что вызвало обеспокоенность по поводу более широкого использования личных данных на выборах.

В Стэнфордском исследовании авторы также отметили, что искусственный интеллект можно использовать для изучения связей между чертами лица и рядом других явлений, таких как политические взгляды, психологические состояния или личность. Этот тип исследования дополнительно вызывает опасения по поводу потенциала такие сценарии, как научно-фантастический фильм «Отчет меньшинства», в котором люди могут быть арестованы исключительно на основании предположения, что они совершат преступление.

«ИИ может рассказать вам все, что угодно, о любом, у кого достаточно данных», — сказал Брайан Бракен, генеральный директор Kairos, компании по распознаванию лиц. «Вопрос в том, хотим ли мы знать, как общество?»

Г-н Бракен, назвавший данные Стэнфордского университета о сексуальной ориентации «поразительно правильными», сказал, что необходимо уделять больше внимания конфиденциальности и инструментам для предотвращения злоупотребления машинным обучением, поскольку оно становится все более распространенным и продвинутым.

Правило высказало предположение о том, что ИИ используется для активной дискриминации людей на основе машинной интерпретации их лиц: «Мы все должны быть обеспокоены коллективно». — (Служба охраны)

Насколько хорошо мы можем определять сексуальную ориентацию других людей?

Джастин Лемиллер

Гайдар в последнее время является предметом изрядных научных споров. Некоторые исследователи утверждали, что это реально, в то время как другие утверждали, что это миф. Так что это?

Действительно ли гайдар — вещь, и если да, насколько он точен?

Люди говорят о «гайдар» как о способности определять, является ли кто-то геем, на основе их интуиции о человеке. Мы говорим здесь о случаях, когда люди делают выводы о сексуальных интересах других в ответ на минимальную информацию, например, как кто-то одевается, ходит или разговаривает.

Доктор Николас Рул, социальный психолог из Университета Торонто, в начале этого года опубликовал статью в архиве Архивов сексуального поведения , в которой он проанализировал накопленную научную литературу по этой теме. Ниже приведены основные выводы из его анализа.

• Большинство научных исследований гайдаров показывают, что в этой идее что-то есть. Эти исследования также были сосредоточены на очень разных типах сигналов сексуальности. Например, кажется, что люди могут определять сексуальную ориентацию при прослушивании коротких аудиозаписей, а также при просмотре немых видеороликов. Кроме того, они могут определять сексуальную ориентацию по неподвижным изображениям лиц, которые появляются на экране компьютера всего на долю секунды. Эти широкомасштабные результаты показывают, что гайдар потенциально может улавливать все, от взгляда до движений и речевых образов.

• Эти выводы о сексуальной ориентации происходят очень быстро и, кажется, отражают автоматические реакции. На самом деле, когда людей просят хорошенько подумать, прежде чем выносить суждение о сексуальности, гайдар на самом деле становится менее точным.Другими словами, чем больше люди думают об этом, тем хуже у них гайдар! Это говорит о том, что нам не обязательно знать, на чем мы основываем эти определения. Дальнейшие доказательства этого утверждения получены в исследованиях, в которых людей спрашивали, почему они сделали определенные выводы о сексуальной ориентации. Оказалось, что им часто не хватало понимания, особенно когда у них был лишь минимальный объем информации, такой как обрезанное изображение лица, на котором видны только глаза, нос и рот.

• У некоторых людей гайдар точнее, чем у других. Например, люди, которые придерживаются анти-геевских взглядов, обычно хуже участвуют в исследованиях гейдара; напротив, сексуальные меньшинства и люди, которые более знакомы.

• В ходе особенно увлекательного исследования исследователи обнаружили, что женский гайдар был более точным во время овуляции, чем во время ее отсутствия. Другими словами, когда женщины достигают пика фертильности, их способность отличать геев от гетеросексуалов улучшается.

• Большинство исследований гайдара включают в себя просьбу к людям вынести либо / или суждение: этот человек гей или этот человек натурал? Однако на самом деле существует гораздо больше, чем просто две сексуальности. Так что же происходит, когда бисексуалы включаются в исследования гайдара? Оказывается, люди не могут надежно выделить их как отдельную группу. Кроме того, когда людям предоставляется возможность угадать сексуальность цели по спектру — а-ля классическая шкала Кинси — вместо того, чтобы принимать какие-либо / или решения, геям и бисексуалам, как правило, присваивают примерно одинаковые оценки. Это говорит о том, что гайдар действительно отличает гетеросексуалов от негетеросексуалов, а это не обязательно помогает, когда дело доходит до более точных определений.

• В целом гайдар помогает людям делать выводы о сексуальной ориентации лучше, чем предположения; однако они далеки от совершенства. Большинство исследований гайдаров устроены так, что участники будут правы в 50% случаев, если они будут полагаться на случайные предположения. У участников обычно получается немного лучше, чем это, со средним уровнем точности в диапазоне 62-64%.Некоторые исследователи считают, что точность потенциально может быть даже выше в реальном мире, где люди обычно имеют больше сигналов и информации, от которых можно исходить, по сравнению с лабораторными исследованиями.

Итог : Исследования, проведенные на сегодняшний день, показывают, что есть что-то в идее гайдара в том, что люди, по-видимому, способны интуитивно определять сексуальность других на более высоких уровнях, чем случайность, в ответ на различные сигналы. В то же время, однако, гайдар явно несовершенный инструмент, и он не обязательно кажется чувствительным к широкому спектру существующих сексуальных предпочтений.

Чтобы узнать больше об этом исследовании, см .: Rule, N.O. (2017). Восприятие сексуальной ориентации по минимальным сигналам. Архив сексуального поведения, 46, 129-139.

—————

Доктор Джастин Лехмиллер — отмеченный наградами педагог, плодовитый исследователь и ученый. Он опубликовал статьи в некоторых ведущих журналах о сексе и отношениях, написал два учебника и ведет популярный блог Sex & Psychology. Темы исследований доктора Лехмиллера включают случайный секс, сексуальные фантазии, сексуальное здоровье и друзей с пользой.В настоящее время он является директором программы аспирантуры по социальной психологии и доцентом кафедры социальной психологии в Государственном университете Болла.

Как идентифицировать гея или лесбиянку

Прежде чем приступить к фрейдистскому психоанализу, не забудьте упомянуть, что у вас есть «гей-дар», и не забудьте подробно описать, насколько он точен и всегда был. Представьте это как ваше непреодолимое достижение. В конце концов, это намного престижнее, чем получить стипендию Родса.Нет необходимости думать о надежности или точности ваших данных, потому что у вас их нет, поэтому просто начните прямо сейчас.

Не каждый может быть геем или лесбиянкой. Есть особый навык для идентификации тех из нас, кто есть. Вот некоторые контрольные признаки того, что кто-то гей или лесбиянка:

Первое, на что следует обратить внимание при принятии решения о сексуальной ориентации человека от его имени, а именно, является ли мужчина геем или нет, — это наблюдать, насколько высок его голос. Чем выше их обычный голос, тем больше вероятность, что вы разговариваете с геем.Это потому, что высота вашего голоса не имеет ничего общего с биологией: на самом деле она определяется вашей сексуальностью. Забудьте, что говорят ученые — на самом деле все они просто сторонники теории заговора.

Второй намек, на который следует обратить внимание: если они чрезмерно жестикулируют, значит, они геи. Ключ к этому в том, что если вы мужчина, которого привлекает другой мужчина, вы, как правило, будете двигать руками больше, чем средний человек, когда говорите. Об этом свидетельствует то, что ветки деревьев больше двигаются на улице на ветру, чем в помещении.Это та же самая логика, почему ведьмы, такие как Конни Бут, будут весить столько же, сколько утка. Эти виды людей также имеют тенденцию быть ухоженными, носят крепкий одеколон и любят ходить в гей-бары. Вы только посмотрите на Кристиана Стовица. Насколько вы ошибаетесь, когда подозреваемый в точности похож на гея из Clueless ? Ответ: не очень. Голливуд — это, по сути, всеобъемлющая энциклопедия для понимания разнообразия меньшинств в нашем обществе.

Что касается выявления лесбиянок, то они, скорее всего, будут иметь короткие волосы, откажутся бриться и носить бюстгальтеры, а также будут участниками феминистского движения.Им также нравится заявлять о своем отвращении к пенисам каждые пять минут любого разговора о политике, экономике или квантовой физике. Они пасутся небольшими стадами и, как правило, слишком заняты чтением Монологи вагины и заплетением волос в подмышках, чтобы заботиться о том, чтобы вы не думали, что патриархат существует. У лесбиянок также обычно есть татуировки и пирсинг на каждых десяти квадратных сантиметрах поверхности кожи. У нее пирсинг языка? Определенно лесбиянка. Это безупречное приложение логики modus ponens ; Вы должны гордиться, вы на полпути к гипотетическому силлогизму.

Помните: «промывание мозгов» — это хорошо. Вы должны хорошо отмыть его. Но не забудьте потом промокнуть его насухо, иначе он не будет издавать того чистого скрипучего звука, когда вы втираете в него свои бесконечные знания. Если другие кажутся убежденными, впечатляйтесь самим собой, нелегко быть одновременно человеком и стиральной машиной.

А теперь продолжим ваш анализ: если они не белые, то они, вероятно, не геи или лесбиянки. Просто взгляните на блондинка в законе , Modern Family , Glee , Orange — это новый черный , Girls , Easy A , а список фильмов и телешоу с гомосексуальными персонажами можно продолжить. .Все персонажи-геи и лесбиянки белые. Итак, если вы цветной, как вы можете быть геем или лесбиянкой? Не увлекайтесь разнообразием; помните, что каждая характеристика человека — это очевидный намек на тайну втискивания его в категорию пола, этнической принадлежности или сексуальности.

Последнее правило успешного определения гея или лесбиянки — если у них нет волос, окрашенных в цвета радуги, а на ладони постоянно прикреплен знак равенства в браке, то они, вероятно, не геи. или лесбиянка.Они могут быть би, пан или пидор *, но не гомосексуалистами. Если Голливуд говорит, что сексуальность является определяющей характеристикой гея или лесбиянки, то это так.

В отличие от своих гетеросексуальных сверстников, которые происходят из разных слоев общества и имеют множество личных интересов, запутанно вплетенных в ткань их жизни, жизнь гомосексуалистов будет вращаться вокруг их сексуальности. Согласно Голливуду, это будет происходить примерно так: вы проведете первые несколько лет своей жизни, пытаясь понять, что вы не натурал, а затем следующие несколько лет, ожидая, пока люди примут ваш «новый». личность (это никогда не было чем-то новым).Затем вы проведете остаток своей жизни, делая что-то, что связано с тем, чтобы быть гомосексуалистом. Потому что, не дай бог, гомосексуализм — не единственный аспект вашей яркой идентичности гея или лесбиянки. Итак, если вы знаете кого-то, чья жизнь немного похожа на это, то он, вероятно, гей или лесбиянка.

Вы знаете, что можете быть уверены, что кто-то гомосексуалист, если он соответствует всем этим описаниям. Ни один трехмерный человек не может вписаться в ваше одномерное описание гея или лесбиянки.В конце концов, их меньшинство, так что увидеть кого-то поблизости — довольно редкость. Единственное, что можно сделать — это предположить, что все правы, пока они полностью не соответствуют этому описанию. Не признавайте, что у людей могут быть другие качества и интересы, выходящие за рамки вашего понимания их. Это слишком сложно для мозга, чтобы понять, что вы собираетесь делать с остатком своей жизни после университета.

Когда вы завершаете свой окончательный анализ, обязательно представьте себя героем. Без вашей мудрости, как остальные из нас могли бы отличить тех из нас, кто является геем и лесбиянкой, от тех, кто не является таким, покончить с мировой бедностью, искоренить все нарушения прав человека и предотвратить сползание нашей глобально теплой планеты в хаос? Весь остальной мир благодарит вас за проницательный анализ, поэтому не бойтесь показать его следующему человеку, которого вы встретите.

Думаете, ваше имя будет хорошо смотреться в печати? Woroni всегда открыт для заявок от студентов ANU.Напишите письмо на адрес [email protected] с предложением или черновиком. Вы можете найти больше информации об отправке здесь.

Сможете ли вы определить геев, просто взглянув на них? — OMGFacts

Исследования показывают, что «лицо гея» реально; жизнь подсказывает, что ты все еще можешь быть задницей.

Статья в Атлантическом океане, опубликованная в апреле, напоминает нам о том, что наука до сих пор не установила точную причину (ы) гомосексуализма. Кажется, это основано на биологии (но не обязательно на наследственности), и именно этот биологический компонент заставляет некоторых людей думать, что существует верный внешний способ идентифицировать гея.

Их рассуждения? Предполагаемое существование «веселого лица» — термин, который сообщество ЛГБТК приняло (или, по крайней мере, еще не осудило) для описания «взгляда» гомосексуального лица. Итак, реально ли Gay Face? Или это просто уродливые стереотипы, прикрытые чем-то… менее вредным, чем стереотипы?

Оказывается, теория веселого лица может иметь некоторую обоснованность. В своем исследовании 2008 года психологи Николас Рул и Налини Амбади сфотографировали 80 гетеросексуалов и 80 геев, вырезали украшения и волосы (чтобы учесть выбор стиля, который может разделять группы) и наложили каждое лицо на белый фон.Затем участникам исследования нужно было угадать сексуальную ориентацию каждого человека на фотографиях. Все 90 участников угадали лучше случая (другими словами, лучше, чем статистический выстрел 50/50). Исследователи сократили время просмотра до 50 миллисекунд на каждое лицо, гарантируя, что ни один из участников не сможет сознательно обработать фотографию, — и тем не менее, они все еще угадывались лучше случая.

@ItsConnorHatch Я думаю, мы можем разделить разницу здесь. Вы получите принцессу Аврору, а я — принца Филиппа.#gayface

— @justinlraines

Во втором эксперименте, проведенном теми же учеными, они обрезали лица до области глаз или только рта — и получили те же результаты. Людям каким-то образом удавалось идентифицировать голубые глаза даже в 50-миллисекундных вспышках.

Затем, в 2014 году, исследование группы психологов из Карлова университета в Праге доказало, что действительно существуют «морфологические различия» между лицами гомосексуальных и гетеросексуальных мужчин.Исследователи обнаружили, что:

Гомосексуальные мужчины демонстрировали относительно широкие и короткие лица, меньшие и более короткие носы, а также довольно массивные и более округлые челюсти, что приводило к мозаике как женских, так и мужских черт.

Итак, если мы принимаем теорию о существовании дискретных физических различий (сколь угодно малых) между геями и натуралами, возникает вопрос: почему? В своей статье в журнале Scientific American «В этом лице есть что-то странное» Джесси Беринг не учитывает «тусклые эволюционные причины» Правил и Амбади в пользу веселого лица.Даже если это явление действительно возникло из-за эволюционной потребности женщин обходить мужчин, которые «не стоят своих усилий», или чтобы мужчины выясняли, кто является, а кто не является сексуальным конкурентом, исследование Rule-Ambady не может указать на это. что именно, о лицах, которые регистрируются как геи.

Вместо этого Беринг поддерживает то, что он называет «гипотезой мышечной активации» — идею о том, что женоподобные мужчины-геи используют выражения лица, которые более традиционно «женские», чем их коллеги-гетеросексуалы.Со временем повторное использование «женских мышечных конфигураций» создает морфологию, которая вносит свой вклад в мозаику женского и мужского начала, упомянутую ранее.

Но даже с этими доказательствами наблюдать за чьей-либо сексуальной ориентацией — опасная игра. В статье Уильяма Кокса в Journal of Sex Research используется хороший пример, чтобы не навешивать ярлыки на кого-то только на основании внешности:

«Представьте, что 100 процентов геев все время носят розовые рубашки, а 10 процентов гетеросексуалов носят розовые рубашки все время.Несмотря на то, что все геи носят розовые рубашки, гетеросексуалов в розовых рубашках все равно будет вдвое больше ». Так что даже в самом крайнем примере ясно, что если вы пытаетесь угадать, кто гей, а кто не просто глядя, вы в большинстве случаев ошибаетесь.

Какие бы выводы мы ни сделали о научной обоснованности Gay Face, важно помнить, что сексуальность — это спектр, и единственный способ правильно определить чью-то ориентацию — это — удивить, удивить — спросить его.

Изобретение искусственного интеллекта «гайдар» могло стать началом чего-то гораздо худшего

Две недели назад пара исследователей из Стэнфордского университета сделала поразительное заявление. Используя сотни тысяч изображений, взятых с сайта знакомств, они сказали, что обучили систему распознавания лиц, которая может определять, был ли человек натуралом или геем, просто глядя на него. Работа была впервые освещена в журнале The Economist , а вскоре последовали и другие публикации с заголовками вроде «Новый ИИ может угадать, гей ты или прямо по фотографии» и «ИИ может определить, гей по фотографии. , и это ужасно.”

Как вы могли догадаться, это не так просто. (И для ясности, основываясь только на этой работе, AI не может определить, является ли кто-то геем или прямо по фотографии.) Но исследование фиксирует общие опасения по поводу искусственного интеллекта: что он откроет новые возможности для наблюдения и контроль, и может быть особенно вредным для маргинализированных людей. Один из авторов статьи, доктор Михал Косински, говорит, что его намерение состоит в том, чтобы поднять тревогу об опасностях ИИ, и предупреждает, что распознавание лиц скоро сможет определять не только сексуальную ориентацию человека, но и его политические взгляды, преступность и даже их IQ.

Некоторые опасаются, что такими утверждениями мы возродим старую веру с плохой историей: что можно интуитивно понять характер персонажа по внешнему виду. Эта псевдонаука, физиогномика, была топливом для научного расизма XIX и XX веков и давала моральное прикрытие некоторым из худших побуждений человечества: демонизировать, осуждать и истреблять людей. Критики работы Косинского обвиняют его в замене штангенциркуля 19-го века нейронными сетями 21-го, а сам профессор говорит, что он ужасается своим открытиям и рад, что он ошибается.«Это спорный и неприятный вопрос, и он также расстраивает нас», — говорит он The Verge .

Но возможно ли, что псевдонаука крадется обратно в мир, замаскированная в новой одежде благодаря ИИ? Некоторые люди говорят, что машины просто способны читать о нас больше, чем мы сами, но что, если мы обучаем их избавляться от наших предрассудков и тем самым давать новую жизнь старым идеям, которые мы справедливо отвергали? Как мы узнаем разницу?

Может ли ИИ действительно определить сексуальную ориентацию?

Во-первых, нам нужно взглянуть на исследование, лежащее в основе недавних дебатов, написанное Косински и его соавтором Илунь Ван. О его результатах сообщалось плохо, и много шума было вызвано искажением точности системы. В документе говорится: «По одному изображению лица [программа] могла правильно различать геев и гетеросексуалов в 81% случаев и в 71% случаев для женщин». Эти показатели увеличиваются, когда системе предоставляется пять изображений человека: до 91 процента для мужчин и 83 процентов для женщин.

На первый взгляд, это звучит так: «ИИ может определить, является ли мужчина геем или натуралом, в 81% случаев по его фотографии.(Таковы заголовки.) Но цифры означают не это. ИИ не был на 81 процент правильным, когда ему показывались случайные фотографии: он был протестирован на парах фотографий, на одном изображении гея и другом натурального человека, а затем спросил, какой человек с большей вероятностью был геем. . Он угадывал правильно 81 процент времени для мужчин и 71 процент времени для женщин, но структура теста означает, что он начался с базового значения в 50 процентов — это то, что он делал наугад. И хотя это было значительно лучше, результаты не то же самое, что говорят, что он может идентифицировать сексуальную ориентацию любого человека в 81% случаев.

Как сказал The Verge Филип Коэн, социолог из Университета Мэриленда, который написал в блоге сообщение с критикой статьи: «Люди боятся ситуации, когда у вас есть личная жизнь, а ваша сексуальная ориентация неизвестна, и вы идете в аэропорт или на спортивное мероприятие, и компьютер просматривает толпу и определяет, гей вы или натурал.Но мало доказательств того, что эта технология может это сделать ».

Косински и Ван прояснили это в конце статьи, когда тестировали свою систему на 1000 фотографий вместо двух. Они просят ИИ выбрать, кто с наибольшей вероятностью будет геем, из набора данных, в котором 7 процентов фотографов — геи, что примерно отражает долю гетеросексуалов и геев в населении США. Когда просят выбрать 100 человек, которые, скорее всего, будут геями, система получает только 47 из 70 возможных совпадений. Остальные 53 были идентифицированы неправильно. И когда вас попросили определить 10 лучших, девять правы.

Если бы вы были плохим актером, пытающимся использовать эту систему для идентификации геев, вы бы не знали наверняка, что получаете правильные ответы. Хотя, если вы использовали его для достаточно большого набора данных, вы могли бы получить в основном правильные предположения. Это опасно? Если система используется для нацеливания на геев, то да, конечно. Но остальная часть исследования предполагает, что у программы есть и другие ограничения.

Что на самом деле могут видеть компьютеры, чего не видят люди?

Также неясно, какие факторы использует система распознавания лиц для вынесения суждений. Гипотеза Косински и Ванга заключается в том, что в первую очередь они определяют структурные различия: женские черты на лицах геев и мужские черты на лицах геев. Но возможно, что ИИ сбивает с толку другие стимулы — например, выражение лица на фотографиях.

Это особенно актуально, потому что изображения, использованные в исследовании, были взяты с сайта знакомств. Как отметил в своем блоге Греггор Маттсон, профессор социологии в Оберлинском колледже, это означает, что сами изображения являются предвзятыми, поскольку они были выбраны специально для привлечения кого-то определенной сексуальной ориентации. Они почти наверняка соответствуют нашим культурным ожиданиям относительно того, как должны выглядеть геи и натуралы, и, чтобы еще больше сузить их область применения, все испытуемые были белыми, без включения бисексуалов или самоидентифицированных трансгендеров. Если гетеросексуальный мужчина выбирает наиболее стереотипно «мужественное» изображение себя для сайта знакомств, это больше говорит о том, что, по его мнению, общество хочет от него, чем о связи между формой его челюсти и его сексуальной ориентацией.

Чтобы попытаться гарантировать, что их система учитывает только структуру лица, Косински и Ван использовали программное обеспечение под названием VGG-Face, которое кодирует лица как строки чисел и используется для таких задач, как обнаружение двойников знаменитостей на картинах. Эта программа, как они пишут, позволяет им «минимизировать роль [] временных характеристик», таких как освещение, поза и выражение лица.

Но исследователь Том Уайт, который работает над лицевой системой ИИ, говорит, что VGG-Face на самом деле очень хорошо улавливает эти элементы.Уайт указал на это в Twitter и объяснил The Verge по электронной почте, как он тестировал программное обеспечение и использовал его, чтобы успешно различать лица с такими выражениями, как «нейтральные» и «счастливые», а также позы и цвет фона.

В разговоре с The Verge Косински сказал, что он и Ван были недвусмысленны, что такие вещи, как волосы на лице и макияж могут быть фактором при принятии решений ИИ, но он утверждает, что структура лица является наиболее важной. «Если вы посмотрите на общие свойства VGG-Face, он, как правило, очень мало влияет на временные черты лица», — говорит Косински. «Мы также предоставляем доказательства того, что непреходящие черты лица, по-видимому, позволяют предположить сексуальную ориентацию».

Проблема в том, что мы не можем знать наверняка. Косински и Ван еще не выпустили созданную ими программу или картинки, которые использовали для ее обучения. Они действительно тестируют свой ИИ на других источниках изображений, чтобы увидеть, идентифицирует ли он какой-либо фактор, общий для всех геев и натуралов, но эти тесты были ограниченными и также основывались на предвзятом наборе данных — фотографиях профилей Facebook от мужчин, которым понравились страницы типа «Я люблю быть геем »и« Веселые и сказочные.”

Являются ли мужчины в этих группах разумными доверенными лицами всех геев? Вероятно, нет, и Косинский говорит, что, возможно, его работа ошибочна. «Чтобы подтвердить [это], необходимо провести еще много исследований», — говорит он. Но сложно сказать, как можно полностью устранить предвзятость отбора для проведения окончательного теста. Косински рассказывает The Verge, : «Вам не нужно понимать, как работает модель, чтобы проверить, верна она или нет». Однако именно признание непрозрачности алгоритмов делает исследования такого рода настолько сложными.

Если ИИ не может показать свою работу, можем ли мы ему доверять?

Исследователи ИИ не могут полностью объяснить, почему их машины делают то, что они делают. Это проблема, которая проходит через все поле, и иногда ее называют проблемой «черного ящика». Из-за методов, используемых для обучения ИИ, эти программы не могут показывать свою работу так, как это делает обычное программное обеспечение, хотя исследователи работают над исправлением этого.

А пока приводит к разного рода проблемам. Распространенным является то, что сексистские и расистские предубеждения улавливаются от людей в данных обучения и воспроизводятся ИИ.В случае с работами Косински и Ванга «черный ящик» позволяет им совершить определенный научный прыжок веры. Поскольку они уверены, что их система в первую очередь анализирует структуры лица, они говорят, что их исследования показывают, что структуры лица предсказывают сексуальную ориентацию. («Исследование 1а показало, что черты лица, извлеченные [нейронной сетью], могут использоваться для точного определения сексуальной ориентации как мужчин, так и женщин».)

Эксперты говорят, что это обманчивое утверждение, которое не подтверждается новейшими научными данными. Форма лица и сексуальная ориентация могут иметь общую причину — наиболее вероятной причиной является баланс гормонов в утробе матери — но это не означает, что форма лица надежно предсказывает сексуальную ориентацию, говорит Кази Рахман, академик Королевского колледжа. Лондон, изучающий биологию сексуальной ориентации. «В биологии немного больше нюансов, чем мы часто думаем», — говорит он The Verge .«Проблема здесь в силе ассоциации».

Идея о том, что сексуальная ориентация происходит в первую очередь из биологии, сама по себе противоречива. Рахман, который считает, что сексуальная ориентация является в основном биологической, хвалит работу Косинского и Ванга. «Это не мусорная наука», — говорит он. «Больше похоже на науку, которую кто-то не любит». Но когда дело доходит до , предсказывающего сексуальную ориентацию , он говорит, что необходимо учитывать целый комплекс «нетипичного гендерного поведения». «Проблема для меня больше в том, что [исследование] упускает из виду суть, а именно поведение.”

Сведение вопроса о сексуальной ориентации к одному поддающемуся измерению фактору в теле имеет долгую и часто бесславную историю. Как пишет Мэттон в своем блоге, подходы варьировались от «измерений клитора лесбиянок и бедер гомосексуальных мужчин в 19 веке до заявлений конца 20 века об открытии« генов геев »,« мозгов геев »,« безымянных пальцев геев », лесбийские уши »и« голубые волосы на голове ». «Воздействие этой работы неоднозначно, но в худшем случае это инструмент подавления: он дает людям, которые хотят дегуманизировать и преследовать сексуальные меньшинства,« научный »предлог.

Дженни Дэвис, преподаватель социологии Австралийского национального университета, описывает это как форму биологического эссенциализма. Это убеждение, что такие вещи, как сексуальная ориентация, коренятся в теле. По ее словам, этот подход обоюдоострый. С одной стороны, он «делает полезную политическую вещь: снимает вину с однополых желаний.Но, с другой стороны, это усиливает обесцениваемую позицию такого рода желаний », делая гетросексуальность нормой, а гомосексуализм -« менее ценным… своего рода болезнью ».

И именно когда мы рассматриваем исследование Косински и Вана в этом контексте, распознавание лиц с помощью ИИ приобретает еще более мрачный аспект, а именно, как говорят некоторые критики, как часть тенденции к возвращению физиогномики с помощью ИИ.

Ваш характер, такой же простой, как нос на вашем лице

На протяжении веков люди считали, что лицо является ключом к персонажу. Это понятие уходит корнями в Древнюю Грецию, но особенно повлияло на него в 19 веке. Сторонники физиогномики предположили, что, измеряя такие вещи, как угол наклона чьего-либо лба или форму носа, они могли определить, был ли человек честным или преступником. В прошлом году в Китае исследователи искусственного интеллекта заявили, что они могут делать то же самое с помощью распознавания лиц.

Их исследование, опубликованное как «Автоматизированный вывод о преступности с использованием изображений лиц», вызвало небольшой резонанс в сообществе ИИ.Ученые указали на недостатки исследования и пришли к выводу, что эта работа воспроизводила человеческие предрассудки относительно того, что считать «злым» или «красивым» лицом. В широко распространенном опровержении под названием «Новая одежда физиогномики» исследователь Google Блез Агера-и-Аркас и двое соавторов написали, что нам следует ожидать «в ближайшие годы новых исследований, которые имеют аналогичные… ложные заявления о научной объективности с целью« отмывания ». человеческие предрассудки и дискриминация ». (Google отказался предоставить Agüera y Arcas для комментариев по этому отчету.)

В статье Косински и Ванга ясно признаются опасности физиогномики, отмечая, что эта практика «теперь повсеместно и справедливо отвергается как смесь суеверий и расизма, замаскированная под науку». Но, продолжают они, то, что тема является «табу», не означает, что она не имеет под собой правды. Они говорят, что, поскольку люди способны распознавать такие характеристики, как личность, на лицах других людей с «низкой точностью», машины должны иметь возможность делать то же самое, но более точно.

Косински говорит, что его исследования не являются физиогномикой, потому что в них используются строгие научные методы, и в его статье приводится ряд исследований, показывающих, что мы можем выявлять (с разной точностью) черты людей, глядя на них. «Я был образован и убежден, что абсолютно невозможно, чтобы лицо содержало какую-либо информацию о ваших интимных качествах, потому что физиогномика и френология были всего лишь псевдонауками», — говорит он. «Но тот факт, что они заявляли о вещах без каких-либо оснований, что они выдумывали, не означает, что это нереально.Он согласен с тем, что физиогномика — это не наука, но говорит, что в ее основных концепциях, которые могут раскрыть компьютеры, может быть правда.

По мнению Дэвиса, такое отношение происходит из широко распространенной и ошибочной веры в нейтральность и объективность ИИ. «Искусственный интеллект на самом деле не является искусственным», — говорит она The Verge . «Машины учатся так же, как люди. Нас учат через культуру и усваивают нормы социальной структуры, как и искусственный интеллект.Таким образом, он будет воссоздавать, усиливать и продолжать движение по траекториям, которым мы его учили, которые всегда будут отражать существующие культурные нормы ».

Мы уже создали сексистские и расистские алгоритмы, и такого рода культурные предубеждения и физиогномика на самом деле являются лишь двумя сторонами одной медали: оба полагаются на плохие доказательства, чтобы судить других. Работа китайских исследователей — яркий пример, но, конечно, не единственный. Уже есть как минимум один активный стартап, который утверждает, что может обнаруживать террористов и педофилов с помощью распознавания лиц, и есть много других, предлагающих анализировать «эмоциональный интеллект» и вести наблюдение с помощью ИИ.

Глядя на грядущее

Но вернемся к вопросам, связанным с тревожными заголовками о статье Косинского и Вана: будет ли ИИ использоваться для преследования сексуальных меньшинств?

Это система? Нет. Другой? Может быть.

Работа Косинского и Ванга не является недействительной, но ее результаты требуют серьезной квалификации и дальнейшей проверки. Без этого все, что мы знаем об их системе, — это то, что она может с некоторой достоверностью определять разницу между самоидентифицированными геями и натуралами на одном конкретном сайте знакомств. Мы не знаем, есть ли биологическое различие, общее для всех геев и натуралов; мы не знаем, подойдет ли это для более широкого набора фотографий; и работа не показывает, что сексуальная ориентация может быть определена с помощью ничего, кроме, скажем, измерения челюсти. Он не расшифровывает человеческую сексуальность больше, чем чат-боты ИИ расшифровывают искусство хорошего разговора. (Его авторы не делают такого заявления.)

Исследование было опубликовано, чтобы предостеречь людей, говорит Косински, но он признает, что это «неизбежный парадокс», что для этого вам нужно объяснить, как вы сделали то, что вы сделали. Все инструменты, использованные в статье, доступны каждому, кто может найти и собрать их самостоятельно. На сайте Fast.ai, посвященном глубокому обучению, исследователь Джереми Ховард заключает: «Вероятно, разумно [sic] предположить, что многие организации уже завершили аналогичные проекты, но не опубликовали их в академической литературе. ”

Мы уже упоминали стартапы, работающие над этой технологией, и нетрудно найти правительственные режимы, которые будут ее использовать. В таких странах, как Иран и Саудовская Аравия, гомосексуализм по-прежнему карается смертью; во многих других странах быть геем означает подвергаться преследованиям, заключению в тюрьму и пыткам со стороны государства. В недавних сообщениях говорилось об открытии концентрационных лагерей для геев в Чеченской Республике, так что, что, если кто-то там решит создать свой собственный AI-гайдар и отсканировать фотографии профилей из российских социальных сетей?

Здесь становится ясно, что дело не в точности таких систем, как система Косинского и Ванга.Если люди считают, что ИИ можно использовать для определения сексуальных предпочтений, они будут его использовать. Имея это в виду, как никогда важно, чтобы мы понимали ограничения искусственного интеллекта, чтобы попытаться нейтрализовать опасности, прежде чем они начнут влиять на людей.