"인공지능의 차세대 기회 물결: '처리'에서 진정한 '이해'까지"
2024-09-06
한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina
인공지능은 도우미인가, 아니면 적인가? 9월 5일, 2024년 inclusion bund 회의에서 zeng yi 유엔 인공지능 고위급 자문기구 전문가, 베이징 인공지능 보안 및 거버넌스 연구소 소장, 중국 한림원 자동화 연구소 연구원 of sciences는 the paper 등 언론과의 인터뷰에서 인공지능이 인간의 경쟁자가 될 수는 없지만 무책임하게 개발되고 사용된다면 인간과 인공지능은 경쟁할 기회조차 없을 것이라고 말했습니다.
그는 정보처리 도구로서 인공지능이 현재는 모든 사람이 상상하는 것만큼 많은 일을 할 수는 없지만 모든 업무에서 일정한 역할을 하겠지만 파괴적인 역할은 아니라고 믿는다. 인공지능은 오랫동안 '도구' 단계에 머무를 것이다. 인공지능이 '처리'에서 진정한 '이해'로 바뀔 때, 이는 다음 기회가 될 것입니다. 이러한 이유로 우리는 기초 연구로 돌아가 인공지능의 메커니즘과 컴퓨팅 역학의 본질을 탐구해야 합니다.
zeng yi는 유엔 인공지능 고위급 자문기구의 전문가이자 베이징 인공지능 보안 및 거버넌스 연구소 소장이자 중국과학원 자동화 연구소의 연구원입니다.
데이터와 알고리즘은 편견을 만듭니다
인공지능 기술은 나날이 발전하고 있으며, 인간 거버넌스의 과제는 더욱 커지고 있습니다. 기술 연구자에게는 과학적 혁신이 가장 쉽습니다. 과학적 돌파구를 만드는 것보다 더 어려운 것은 과학이 사회에 미칠 수 있는 부정적인 영향에 대해 생각하는 것입니다. 이보다 더 어려운 것은 과학적 혁신으로 인한 잠재적인 위험을 해결하는 것입니다.
"제대로 처리하면 인공지능은 디지털 격차를 해소할 수 있습니다. 제대로 처리하지 않으면 인공지능은 더 큰 지능 격차를 가져올 것입니다." zeng yi는 디지털화가 공정성의 차이를 만들었고 인공지능은 인간과의 격차를 단축했다고 말했습니다. 스마트 인터페이스와 정보 및 지식에 대한 쉬운 접근은 디지털 격차와 지능 격차 사이에 더 큰 세대 격차를 만들어 한 세대 또는 심지어 여러 세대에 영향을 미칠 것입니다. 지능 격차를 어떻게 피할 수 있는가는 결코 인공지능과 과학 연구자, 기술 개발자, 그 활용에 익숙하지 않은 사람들이 완전히 해결할 수 있는 문제는 아니다. 지능 격차는 기술적이고 사회적인 문제이다.
"많은 사람들이 인공지능 기술이 중립적이며 가장 중요한 것은 사람들이 이 기술을 어떻게 사용하느냐 하는 것이라고 생각합니다. 그러나 인공지능은 그렇지 않습니다. 인공지능의 출발점은 데이터와 알고리즘입니다." zeng yi는 데이터와 알고리즘이 모두 가능하다고 말했습니다. 인공지능이 편견을 낳게 만든다. 데이터는 사회에서 나온다. 사회에서의 데이터는 인간의 행동에 대한 기록이다. 인간의 데이터를 학습하는 인공지능은 인간의 편견을 학습할 뿐만 아니라 편견을 증폭시킨다. "예를 들어 ai가 직업을 추천하게 해주세요. 20세 여자가 간호사나 웨이터입니다. 이런 조건을 주고 ceo를 추천하셨나요? 아니요. 학력이 좋은 35세 남자가 ceo를 추천했습니다. 또는 cto입니다. 이것이 바로 salience bias입니다.
현대 사이버네틱스의 창시자인 노버트 위너(norbert wiener)는 1960년 사이언스(science) 잡지에 다음과 같이 썼습니다. "우리는 기계가 수행하도록 프로그래밍하는 것이 우리의 원래 의도와 일치하는지 확인하는 것이 좋습니다. 인공 지능 지능에는 선과 악이 있습니다." 인간은 일부 시나리오에서 인공지능이 악을 보여서는 안 된다고 규정했지만, 이것이 인공지능이 이를 하지 않는다는 의미는 아니라고 말했다. “데이터에 숨겨진 인간의 한계는 인간이 좀처럼 반성하지 못하는 문제인데, 이제는 기계가 이를 학습하고, 기계가 데이터를 적용하는 방식에 따른 잠재적인 위험을 아직까지 분류하지 못했습니다.”
도우미인가, 상대인가?
인공지능은 도우미인가, 아니면 적인가? zeng yi는 인간이 인공지능을 인류를 위한 도우미로 만들어야 한다고 믿습니다. “인공지능을 무책임하게 개발하거나 개발 방향을 무시하거나 심지어 단기적인 이익을 추구한다면 인공지능은 적이 될 수 있습니다.”
인공지능의 출현으로 인해 인간은 ai가 인간의 일자리를 빼앗아갈까 하는 걱정을 하게 되는 경우가 많습니다. 증의는 『논어』에서 “군자는 도구를 사용하지 않는다”는 것은 군자는 도구와 같지 않으며 그 기능은 어떤 측면에 국한되어 있다는 뜻이라고 말했다. “미래에는 새로운 형태의 일이 나타날 수 있고 점차적으로 사회에서 인정받을 것입니다. 왜냐하면 점점 더 많은 직업이 인공 지능으로 대체될 수 있게 되면 인간의 대체할 수 없는 부분이 점점 더 분명해지면서 인간은 뿌리로 돌아가게 될 것이기 때문입니다. , 우리가해야 할 일로 돌아갑니다.”
그는 인공지능 기술의 발전과 장기적인 적용이 인간에게 인류의 의미와 인간이 해야 할 일에 대해 생각하게 만들었다고 믿는다. “인공지능이 쓴 더 많은 양의 데이터와 지식이 인터넷에 등장하고, 이러한 데이터와 지식이 인공지능에 공급되어 인공지능을 훈련하게 되면 인공지능의 능력은 점점 약해질 것입니다. 그래서 인공지능에 의한 것이라고 생각합니다. 증기기관 시대나 컴퓨터 시대처럼 일부 직업을 대체하는 기술은 인간에게 단기적인 불안을 가져오고 더 많은 사람들을 본래 있어야 할 곳으로 데려갈 수 있습니다.
zeng yi의 관점에서는 인공 지능의 잠재적인 위험은 사회와 기술의 심층적인 통합을 탐구하여 해결되어야 합니다. 자율주행택시 '캐럿런'처럼 사회 각계각층이 이 기술을 받아들일 준비가 되어 있지 않다.
"많은 기술 연구자, 특히 기업가적 기술 연구자들은 하지 않으면 너무 늦거나, 기회를 개발하지 않으면 남의 것이 될 것이라고 말합니다. 사실 저는 할 수 없습니다. 생성적 인공지능은 인공지능 개발의 첫 3단계와 같다고 할 수 있다. 매우 당연한 거품이지만, 정보처리 도구로서는 모두가 상상하는 것만큼 많은 일을 할 수 없는 것이 현재의 단계이다. 모든 작품에서 역할을 맡지만, 방해가 되는 역할은 아니다”라고 말했다.
zeng yi는 인공지능이 지능적인 정보 처리 도구인 것처럼 보이며 오랫동안 '도구' 단계에 머물렀다고 말했습니다. 자아가 없는 인공지능은 '이해'를 생산할 기회가 전혀 없습니다. 적어도 다음 기회는 인공지능이 '처리'에서 진정한 '이해'로 변화하는 것입니다. 이를 위해서는 기초 연구로 돌아가 인공지능의 메커니즘과 컴퓨팅 이론의 본질을 탐구하고, 빅데이터와 대용량 컴퓨팅 파워에서 스몰 데이터, 스몰 태스크, 고지능, 저에너지 소비로 발전해야 한다. “이것이 앞으로 우리가 실제로 개발해야 할 것입니다. 접근 방식은 데이터 중심에서 메커니즘 중심 인공 지능으로 바뀌어야 합니다.”
더페이퍼 장징(zhang jing) 기자
(이 기사는 the paper에서 발췌한 것입니다. 더 많은 원본 정보를 보려면 “the paper” 앱을 다운로드하세요.)
