소식

한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina

새로운 지혜 보고서

편집자: 타오지(Taozi)

[새로운 지혜 소개] AI 얼굴 인식은 모든 사람의 일상 생활에 완전히 통합되었습니다. 그러나 스탠포드의 연구에 따르면 AI는 무표정한 얼굴에서 사람의 정치적 성향을 놀라울 정도로 정확하게 식별할 수 있는 것으로 나타났습니다.

이제 과학자들은 AI가 사람의 얼굴을 통해 놀라울 정도로 정확하게 개인의 정치적 성향을 예측할 수 있음을 보여주었습니다.

뿐만 아니라, "소심한 표정"이 아닌 얼굴도 정확하게 인식할 수 있습니다.

이런 식으로 미래에 인간의 모든 작은 생각을 억제해야합니다. 얼굴에 쓰여지면 AI가 즉시 볼 수 있습니다.

스탠포드 팀의 이 연구는 American Psychologist 저널에 게재되었습니다.

논문 주소: https://awspntest.apa.org/fulltext/2024-65164-001.pdf

여러분이 상상할 수 있듯이, 이 발견은 특히 개인의 동의 없이 얼굴 인식을 사용하는 것과 관련하여 심각한 개인 정보 보호 문제를 야기합니다.

논문 작성자 미칼 코신스키(Michal Kosinski)는 “철의 장막 뒤에서 성장한 경험을 통해 감시의 위험성과 경제적, 이념적 이유로 불편한 사실을 무시하는 엘리트들의 선택을 깊이 깨닫게 됐다”고 말했다.

무표정한 얼굴도 AI로 이해 가능

얼굴 인식에 관해서는 누구나 익숙할 것입니다.

AI는 얼굴 특징을 기반으로 패턴을 분석해 개인을 식별하고 인증한다.

알고리즘이 이미지/동영상 속 얼굴을 검출해 눈 사이의 거리, 턱선 모양, 광대뼈 윤곽선 등 얼굴의 다양한 측면을 측정하는 것이 그 기술의 핵심이다.

이러한 측정값은 수학 공식 또는 얼굴 서명으로 변환됩니다.

서명을 알려진 얼굴 데이터베이스와 비교하여 일치하는 항목을 찾을 수 있습니다.

또는 보안 시스템, 휴대폰 잠금 해제, 소셜 미디어 플랫폼에서 친구의 사진 태그 지정 등 다양한 애플리케이션에 사용됩니다.

Stanford 연구에서 저자는 새로운 기술을 조사하고 개인 정보 보호 위험을 노출하는 데 중점을 두었습니다.

과거 연구에서는 메타(Facebook)가 데이터를 판매하거나 교환하여 사용자의 정치적 견해, 성적 취향, 성격 특성 및 기타 사적인 특성을 노출하는 방법을 보여주었습니다.

그리고 얼굴 인식 기술은 소셜 미디어 프로필 사진에서 정치적 견해와 성적 취향을 탐지하는 데 널리 사용됩니다.

그러나 저자들은 이전 연구에서는 결론의 정확성에 영향을 미칠 수 있는 변수를 통제하지 못했다고 지적합니다.

얼굴 표정, 머리 방향, 메이크업을 했는지, 쥬얼리를 착용했는지 등이요.

따라서 새로운 연구에서 저자는 정치적 성향을 예측하는 데 있어 얼굴 특징만으로도 미치는 영향을 분석하여 얼굴 인식 기술의 기능과 위험에 대한 보다 명확한 그림을 제공하는 것을 목표로 했습니다.

인간과 AI의 예측계수는 비슷하다

이 목표를 달성하기 위해 그들은 주요 사립 대학에서 591명의 참가자를 모집하고 각 참가자의 얼굴 사진이 촬영되는 환경과 조건을 신중하게 통제했습니다.

참가자들은 검은색 티셔츠를 입고, 물티슈로 화장을 지우고, 머리를 깔끔하게 묶었습니다.

그들은 고정된 자세로 앉아 있었고 모든 이미지의 일관성을 보장하기 위해 밝은 조명이 있는 방에서 중립 배경을 배경으로 얼굴을 촬영했습니다.

사진을 찍은 후 연구원들은 특히 ResNet-50-256D 아키텍처의 VGGFace2를 사용하여 얼굴 인식 알고리즘을 사용하여 사진을 처리했습니다.

이 알고리즘은 이미지에서 얼굴 설명자라고 하는 숫자 벡터를 추출합니다.

이러한 설명자는 컴퓨터로 분석할 수 있는 형태로 얼굴 특징을 인코딩하고 이러한 설명자를 정치적 성향 척도에 매핑하는 모델을 통해 참가자의 정치적 성향을 예측하는 데 사용됩니다.

안면인식 알고리즘은 상관계수 0.22로 정치적 성향을 예측할 수 있는 것으로 나타났다.

상관관계는 크지는 않지만 통계적으로 유의미했으며, 이는 특정 안정적인 얼굴 특징이 정치적 성향과 연관될 수 있음을 시사합니다. 이 연관성은 연령, 성별, 인종 등 기타 인구통계학적 요인과 무관했습니다.

다음으로 Kosinski와 동료들은 두 번째 연구를 수행했습니다.

그들은 알고리즘을 1,026명의 인간 평가자로 대체하여 사람들이 중립적인 얼굴 이미지로부터 정치적 성향을 예측할 수 있는지 여부를 평가했습니다.

연구자들은 첫 번째 연구에서 수집된 표준화된 얼굴 이미지를 그들에게 보여주었습니다. 각 평가자는 사진 속 개인의 정치적 성향을 평가하도록 요청 받았습니다.

평가자는 5,000개 이상의 평가를 완료했으며 그 결과를 분석하여 자신이 인지한 정치적 성향 평가와 참가자가 보고한 실제 성향 간의 상관 관계를 확인했습니다.

알고리즘과 마찬가지로 인간 평가자는 0.21의 상관계수를 사용하여 정치적 성향을 예측할 수 있었으며 이는 알고리즘의 성능과 비슷했습니다.

“놀랍게도 알고리즘과 인간 모두 무표정한 얼굴의 신중하게 표준화된 이미지로부터 정치적 성향을 예측할 수 있었습니다.”라고 Kosinski는 말했습니다. “이는 안정적인 얼굴 특징과 정치적 성향 사이의 연관성을 시사합니다.”

세 번째 연구에서 연구자들은 모델에 정치인의 이미지를 인식하도록 요청하여 얼굴 인식의 예측력에 대한 조사를 다양한 상황으로 확장했습니다.

샘플에는 미국, 영국, 캐나다 등 3개국 입법 기관의 정치인에 대한 3,401개의 프로필 이미지가 포함되어 있습니다.

결과는 얼굴 인식 모델이 실제로 정치인의 이미지로부터 정치적 성향을 예측할 수 있음을 보여 주며, 정확도 중앙값에 대한 상관 계수는 0.13입니다.

이 정확도는 높지는 않지만 통계적으로 유의미하며 통제된 실험실 이미지에서 입증됩니다. 정치적 성향을 예측하는 일부 안정적인 얼굴 특징은 보다 다양한 실제 이미지에서도 식별할 수 있습니다.

다분야 연구

실제로 2021년 초 Nature 연구에서는 얼굴 인식 기술이 사람의 정치적 성향을 72% 정확하게 예측할 수 있다고 지적했습니다.

논문 주소: https://www.nature.com/articles/s41598-020-79310-1

실험 결과 AI 기술은 우연(50%), 인간의 판단(55%), 성격 설문지(66%)보다 나은 것으로 나타났다.

2023년의 또 다른 연구에서는 얼굴 인식을 통해 개인의 정치적 성향을 예측하는 데 딥러닝 알고리즘도 사용되었으며 예측 정확도는 61%에 달했습니다.

그러나 네티즌들의 눈에는 얼굴 표정에서 사람의 감정이나 기타 특성(예: 정치적 성향)을 읽을 수 있다고 주장하는 모든 AI 시스템이 사기입니다.

여기에는 과학적 근거가 없기 때문에 AI를 훈련시켜 이러한 특성을 예측하는 데 사용할 수 있는 "좋은 데이터"가 없습니다.

이전에 WSJ 보고서에서는 AI가 정형화된 얼굴 표정을 사용하여 알고리즘을 훈련하는 것이 필연적으로 오해를 불러일으킬 것이라고 의문을 제기했습니다.

이것에 대해 어떻게 생각하세요?

참고자료:

https://www.reddit.com/r/singularity/comments/1dycnzq/ai_can_predict_political_beliefs_from/