소식

한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina

텍스트 |

공공의 안전은 우리 사회의 '면역'과 같아서 평소에는 거의 주의를 기울이지 않습니다. 사고가 발생하면 '감기'부터 '치명적'까지 위험이 도래했다는 의미입니다. .

보안검색은 유형의 유해물체를 탐지할 수 있지만, 무형의 유해감정은 탐지하기 어렵습니다. 극심한 증오, 갈등, 복수의 사회심리 등 유해한 감정은 터지면 무고한 인명 피해를 입히는 시한폭탄과도 같다.

그러므로 공공의 안전은 물체 검사에서 멈출 수 없습니다.

AI 감정 감지는 공공 안전의 '면역력'을 향상시키는 눈에 보이지 않는 장벽이다.

기술 매체 WIRED에 따르면, 영국 기차역의 카메라는 현재 기차역 내부 상황을 모니터링하기 위해 Amazon의 감정 감지 시스템을 사용하고 있습니다. 비정상적인 기분을 가진 사람이 발견되면 추가 검사를 위해 직원에게 통보됩니다.

개인정보 보호가 엄격한 유럽 국가에서 감정 감지 기능을 구현할 수 있다는 사실만으로도 설명이 충분할 수 있다.

이번 글에서는 전통적으로 보수적인 영국이 이를 받아들이게 하기 위해 AI 감정 감지가 어떤 역할을 하는지에 대해 이야기해보겠습니다. 필요성은 어디에 있습니까?

보도에 따르면 감정인식 알고리즘을 활용한 스마트 카메라를 이용해 기차 승객의 감정을 감지하고 안면 스캔을 통해 잠재적인 감정을 예측해 도난, 침입자 등 비정상적인 행동을 감지할 예정이다.

이 문제에서 가장 어려운 부분은 기술이 아니라, 얼굴 인식 규정이 가장 엄격한 유럽 국가에서 대중을 위한 얼굴 인식을 어떻게 받아들일 것인가?

유럽의 공공장소에 안면인식 기술을 적용하는 것은 다음과 같은 중요한 변화의 과정을 거쳤습니다.

전면금지.2017년 딥러닝 기술이 폭발적으로 증가한 이후 이력서 분야의 얼굴인식은 주류 응용 분야 중 하나로 자리 잡았으며, 유럽에서는 이를 엄격하게 규제했습니다."인공지능 백서(안)", 공공장소에서의 안면인식 기술 사용이 3~5년 동안 금지될 것이라고 밝혔습니다.

반복해서 스윙하세요. 역사상 가장 엄격한 AI 및 데이터 규정이 공포된 후, 많은 분석가와 기술 전문가들은 이러한 제한이 유럽에서 인공지능 기술의 발전과 적용을 크게 방해하고 AI 개발이 정체되는 결과를 가져왔다고 말했습니다. 산업.그러나 이에 대한 유럽의 태도는 2021년 2월 들어 늘 상대적으로 흔들리고 있다.EU 데이터 전략문건이 태도를 누그러뜨리자 이를 엄격하게 제한하되 완전히 금지하지는 않겠다고 밝혔다. 그해 10월에는 경찰이 공공장소에서 안면인식 기술을 사용하는 것을 금지하는 결의안이 통과됐다.

임시 유예.드디어 2024년 3월 13일, 유럽이 랜드마크를 통과했습니다.인공지능법, 안면인식 등 민감한 생체인식을 기반으로 한 목적 없는 대규모 감시 적용을 금지하고 기술의 합리적인 사용을 포기하는 등 안면인식 기술에 대한 태도를 누그러뜨렸다.

AI 감정 감지에 '특별 대우'가 부여되는 이유는 무엇입니까?

이로 인해 우리는 공공 안전의 "불가능한 삼각형"인 비용, 이점 및 경험을 얻게 됩니다.

공공의 안전을 위해서는 "사전 예방이 사후 대책보다 낫다." 고위험 사건이 발생하면 '상황 수습'에 드는 비용이 인명 피해를 입는 경우가 많기 때문에 더욱 엄격한 사전 감독이 필요하다. 일반적으로 말하면 보안 검색입니다.

하지만 보안검사에는 투자비용, 안전편익, 국민경험 사이의 복잡한 균형이 필요한 '불가능한 삼각관계'가 존재한다.

보안 검사 프로세스가 충분히 민감하지 않아 '탐지 누락'이 발생하면 유해한 '바이러스'가 이를 활용할 기회를 갖게 됩니다. 위험 집단은 바이러스가 약물에 대한 내성을 높이듯 보안검색 시스템에도 '약물내성'을 키워 이를 회피하기 위해 보안검색 과정에서 허점을 찾아낼 것이다.

그러나 우리는 또한 공항 수준의 보안 검색과 신체 검색 밀수품 검색을 어느 곳에서나 무분별하게 채택하면 교통 효율성과 사람들의 여행 경험에 영향을 미칠 뿐만 아니라 더 많은 수의 보안 검색 인력이 필요하므로 비용이 많이 든다는 점을 분명히 알고 있습니다. . 비용 지출과 한계 이익이 매우 낮습니다.

특히 유럽의 지하철, 고속철도역, 명승지 등에서는 일반적으로 이전에는 보안 검색이 전혀 없었는데, 이는 위험물과 테러 위협에 대해 '문을 여는 것'과 다름없다. 표준화된 보안 검사를 처음부터 실행하려면 보안 인력, 장비 및 기타 비용을 처음부터 배치해야 하며, 대중에게 오랜 여행 습관을 바꾸도록 교육하는 것이 널리 받아들여지기는 거의 불가능합니다.

이런 맥락에서 AI 감정탐지의 적용은 기존 보안검사의 '불가능한 삼각관계'에 대한 새로운 해법을 찾을 수 있을 것으로 기대된다.

AI 감정 감지는 새로운 기술이 아닌데 왜 지금 유럽 공공 안전을 위한 생명을 구하는 지푸라기가 되었는가?

이는 몇 가지 변경 사항으로 시작됩니다.

첫 번째 변화는 알고리즘의 발전으로, 보안상의 이점이 크게 증가했습니다.

영국 고속철도역에서 사용되는 감정 감지 시스템은 Amazon이 전자상거래, 의료, 공공 안전, 마케팅 및 기타 분야에서 수년 동안 탐구해 온 것입니다.Rekognition 시스템은 행복, 슬픔, 분노, 놀라움, 혐오감, 평온함, 혼란 등 다양한 감정을 인식할 수 있습니다. 2023년 반복 이후에는 "두려움"도 인식할 수 있습니다.

예를 들어, 전자 상거래 시나리오에서는 매장 카메라를 사용하여 소비자의 감정을 판단하여 개인 엔터테인먼트 시나리오에서 제품 디스플레이를 최적화하고, Amazon Alexa와 같은 스마트 장치는 사용자의 감정을 적시에 감지하고 사용자가 부정적인 감정을 느끼는 시기를 감지할 수 있습니다. 분노나 슬픔 같은 , 위로나 조언을 제공하기 위해.

현재의 감정 분석 및 감정 인식 알고리즘은 상당히 성숙했으며 정확성과 탐지 정밀도는 공공 장소에서의 효율성, 안전 및 경험을 고려하는 복잡한 요구 사항을 충족할 수 있다고 말할 수 있습니다.

두 번째 변화는 디지털 사회의 지속적인 발전으로, AI 감정인식 비용을 통제할 수 있게 된다는 점이다.

스마트 시티는 전 세계 여러 국가와 지역에서 지속적으로 개선되고 있습니다. 도시 보안에 사용되는 스마트 카메라는 수년 동안 반복되어 왔으며 현재의 기술과 제품은 상당히 성숙되었습니다. 그중 '소프트웨어 정의' 스마트 카메라는 다양한 알고리즘을 온라인으로 로드하여 수직 지능형 애플리케이션을 구현할 수 있으며 하드웨어를 교체하지 않고도 AI 감정 감지를 업데이트하고 업그레이드할 수 있으며 과도한 비용 압박을 초래하지 않습니다.

세 번째 변화는 최근 몇 년 동안 공공 안전과 개인 정보 보호에 대한 사람들의 우려가 줄어들면서 감정 감지에 대한 수용도가 높아졌다는 것입니다.

세계 정치, 경제 환경의 혼란으로 인해 많은 국가에서 공공 안보에 대한 대중의 우려가 높아지고 있으며, 특히 불법 이민이 증가하는 유럽에서는 국가 간 범죄와 분쟁이 공공 안보에 많은 위협을 가하고 있습니다.

이런 맥락에서 AI 감정인식은 잠재적인 긴장과 갈등의 징후를 사전에 감지해 감정 상실로 인한 공공 안전 사고를 피할 수 있을 뿐만 아니라, 얼굴의 프라이버시를 노출하는 것만큼 불편하지도 않다.

감정 탐지를 통해 수집된 데이터는 '강력하게 식별 가능'하지 않기 때문입니다.

'프라이버시 권리'에 명시된 바와 같이, 프라이버시는 '혼자 있을 권리'입니다. '강력한 인식'의 얼굴인식에 비해,공공 장소의 AI 감정 감지는 위기가 노출되기 전에 대중을 방해하거나 개인 정보를 포함하지 않습니다. 즉, 감정을 통해 자연인을 고유하게 식별하고 인증하는 것이 불가능하며, 성이 누구인지 알 수 없습니다. 이는 대중이 감시당한다는 느낌을 크게 줄여줍니다.

이러한 관점에서 AI 감정 감지는 비용, 이점, 경험 측면에서 좋은 균형을 이루었으며 전통적인 보안 검사와 더불어 공공 안전에 대한 보이지 않는 장벽이 되어야 합니다.

AI 감정 탐지와 악성 극한 보안사고 예방은 분명 사회 전체에 해로움보다 이익이 더 클 것이다. 그럼 언제 할 수 있나요?

솔직히 말해서, 현재 중국의 대도시 및 중형 도시의 지능형 보안 시스템은 이미 매우 잘 작동하고 있습니다. 감정 감지 알고리즘을 구현하는 것은 어렵지 않습니다.알고리즘의 현지화에는 여전히 시간이 걸립니다.

가장 큰 장애물은 데이터 세트가 충분히 크지 않고 충분하지 않다는 것입니다.

나는 딥러닝 기술을 사용하여 미세한 표현 인식 알고리즘을 개발한 산동의 한 대학 교사를 방문했습니다. 미세표정은 지속 시간이 매우 짧고 움직임 진폭의 변화가 작으며 숨기고 억제하기 어려운 것이 특징이므로 잠재적으로 위험한 사람의 감정 탐지에 매우 적합합니다.

미세표현을 수집하고 컴퓨터로 분석하고 처리하려면 심리학적 실험이 필요합니다. 먼저 피험자에게 미세한 표정의 생성을 유도하기 위해 심리학자가 입증한 몇 가지 자극을 보여준 다음 고속 카메라를 사용하여 피험자의 얼굴을 바라보고 컴퓨터가 이미지를 프레임별로 저장하도록 해야 합니다. 데이터를 수집한 후에는 표현의 시작점, 끝점, 절정점인 감정 라벨과 시공간 영역 특성을 라벨링하는 것이 필요하다.

교사는 자신의 팀이 MMEW 데이터베이스를 구축하기 전에는 미세 발현 연구를 위한 특별히 큰 공개 데이터베이스가 부족했다고 언급했습니다. 가장 큰 데이터베이스에는 샘플이 247개밖에 없었고 이미지 해상도도 높지 않았습니다.

미세 표현 데이터 세트가 그렇게 어렵다면 처음부터 직접 구축할 필요가 있을까요?

우리는 감정 표현이 문화, 사회 생활 및 기타 배경에 영향을 받는다는 것을 알고 있습니다. 해외 감성 사진의 대부분은 외국 얼굴에서 수집한 데이터를 기반으로 하기 때문에 중국인 얼굴의 감정 상태, 의도, 행동을 파악하는 데 있어서는 그다지 정확하지 않을 수 있습니다. 따라서 공공 보안 분야에서 AI 감정 탐지의 실제 적용은 여전히 ​​국내 고품질 데이터 세트의 탄탄한 구축에서부터 시작되어야 합니다.

또 다른 질문은 알고리즘을 사용하여 누가 판매할 것인가입니다.

더 정확하게 말하면 누가 컴퓨팅 성능과 일련의 지원 서비스를 제공합니까? 감정인식은 대용량 데이터를 빠르게 분석하고 감정인식 결과를 실시간으로 피드백하기 위해 강력한 컴퓨팅 파워가 필요한 복잡한 프로세스로, 매우 높은 컴퓨팅 파워가 요구된다. 또한 AI는 지속적으로 진화하는 기술이며, 감정 감지 모델은 인식 정확도와 일반화 능력을 향상시키기 위해 지속적인 학습과 최적화가 필요합니다. 영국의 고속철도역에 구현된 Rekognition 시스템을 예로 들어보겠습니다. Amazon AWS가 출시한 클라우드 서비스 중 하나로 클라우드에서 학습, 분석, 기능 개선을 수행합니다.

중국에서는 공공정보 데이터를 포함하기 때문에 민영화해 현지에 배치해야 한다. 결국 핵심 경쟁력은 알고리즘 기술과 ToB 서비스 역량이다. 따라서 이 시장에서는 국내 CV 알고리즘 기업이 클라우드 벤더보다 경쟁력이 높을 것입니다. 그러나 컴퓨팅 파워 비용과 서비스의 인적 효율성 문제를 어떻게 해결하는지는 알고리즘 기업의 오랜 과제이며 보다 정교하고 합리적이어야 합니다. 비즈니스 디자인.

9층짜리 플랫폼은 땅바닥에서 솟아오릅니다. AI 감정 감지의 국산화를 향한 길은 여전히 ​​데이터, 알고리즘, 비즈니스 및 기타 수준에서 조금씩 통합되어야 하지만, 기술을 사용하여 공공 안전의 '면역'을 강화하고, 악의적인 안전 사고를 방지하며, 비용, 이익, 경험 등이 점차 사회 전체의 합의와 목표가 되어야 합니다.

사람이 목적이고 기술이 수단이다.

인간의 생명권을 보호하는 기술은 신기술에 대해 극도로 엄격한 유럽에서도 개발권을 주어야 한다. 이는 AI 감정 감지의 구현이 우리에게 가져다 주는 가장 큰 폭로일 것이다.