소식

한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina

똑똑한 것들
Chen Junda가 편집함
편집판켄

Zhidongzhi는 지난주 OpenAI CEO인 Sam Altman이 AI 의료 및 건강 회사를 설립했다고 7월 15일 보도했습니다.Thrive AI Health(간단히 Thrive) 광범위한 우려를 불러일으켰습니다. 이 스타트업은 미국에서 1억 2,700만 명을 괴롭히는 만성질환 위기를 해결하기 위해 AI 건강 코치를 통해 환자의 행동과 습관을 바꾸는 것을 목표로 하고 있으며, 미국에서 가장 부유한 여성으로부터 투자도 받았습니다.

의료는 늘 미국 사회의 큰 관심사였으며, 올해 미국 선거에서도 중요한 이슈였습니다. 비효율적이고 값비싼 의료 시스템으로 인해 많은 미국인들이 효과적인 의료 서비스를 받기가 어렵습니다. 오늘날 AI 업계의 최고 인물인 알트만은 이때 AI 의료계 진출을 선택했고, 이는 자연스럽게 많은 사람들의 관심을 끌었다.

Altman과 함께 Thirve를 설립한 Thirve의 또 다른 창업자는 행동 변화 기술 회사인 Thrive Global의 창업자인 Arianna Huffington입니다. 두 사람은 7월 11일 The Atlantic과 인터뷰를 가졌습니다. 이 벤처에 대한 자세한 내용을 공개합니다.

두 사람은 Thrive가 건강 조언 제공에 중점을 두고 AI가 현재 잘 수행하지 못하는 의료 진단 업무를 지양할 것이라고 말했습니다. 앞으로는 건강 정보를 업무 시나리오에 통합하는 것이 가능해질 것입니다.

그러나 면접관의 의심에 직면하여 그들은제품이 어떤 형태로 구현될지, 사용자 데이터 보안을 보장하기 위해 어떤 구체적인 조치가 취해질지 명확하게 설명하지 못했습니다.

알트만도 인터뷰에서 이렇게 말했다."아마도"인간과 AI 사이의 의사소통 과정에서 정보는 변호사와 의뢰인 사이와 마찬가지로 비밀유지 조항으로 보호되어야 하지만 이는 사회가 결정해야 한다고 그는 믿는다.

Altmann의 새로운 회사인 Thrive가 얻을 수 있는 이점은 언급할 가치가 있습니다.AI 건강 데이터는 극히 비공개이며 상당한 경제적 가치를 가지고 있습니다. 보험사는 이 정보를 사용하여 특정 보험의 가격을 조정하거나 특정 약품의 상환 여부를 결정할 수 있습니다. 최근 미국에서 그러한 정보가 유출되어 의료 시스템이 광범위하게 중단되었습니다.

1. 의학적 진단보다는 건강 조언에 초점을 맞춘 모델 성능은 이미 “충분하다”

AI 건강 상품인 Thrive의 가장 큰 셀링 포인트는 '고도로 개인화된 AI 건강 코칭'이다. Thrive는 사용자의 수면, 음식, 운동, 스트레스 및 사회적 상호 작용에 대한 정보를 수집하고 의료 기록 및 행동 변화에 대한 전문 지식을 결합하여 사용자에게 개인화되고 즉각적인 건강 조언을 제공합니다.

Altman과 Huffington은 AI 건강이 현재 미국의 혼란스러운 의료 시스템을 개선하는 데 큰 의미가 있다고 믿고 있습니다. 현재 미국 의료 보험 시스템 지출의 90%가 만성 질환 치료에 지출되고 있으며 Thrive는 이를 통해 이를 대폭 절감합니다.

알트만과 허핑턴은 이 기술을 루즈벨트의 뉴딜에 비유하며 “AI는 보다 효율적인 의료 인프라의 일부가 되어 일상생활에서 사람들의 건강을 지속적으로 지원할 것”이라고 말했다.

그러나 의료 및 건강 산업에 AI를 적용하는 것은 새로운 것이 아닙니다. AI는 이미 CT 재구성, 약물 개발, 보조 진단 및 기타 분야에서 중요한 역할을 했습니다.

▲엔비디아가 AI 의료제품 클라라를 출시했다. (출처: 엔비디아)

현재 AI 의료 및 건강 애플리케이션은 이번 Thrive가 대상으로 삼는 질병 환자보다는 주로 전문 지식을 갖춘 의사 및 R&D 인력을 대상으로 하고 있습니다.대부분의 환자는 의학적 지식이 부족하여 AI가 제공하는 건강 조언이나 의학적 진단에 대해 효과적인 판단을 내리지 못할 가능성이 높으며, AI 제품이 실수하지 않도록 보장하기 어렵습니다.

The Atlantic과의 인터뷰에서 Altman과 Huffington은 제품의 안전성에 관한 질문을 다루었습니다. 그들은 AI 모델의 현재 성능이 If Thrive이면 충분하다고 믿습니다.'의학적 진단'보다는 '건강 조언'에만 집중, 동료 검토 데이터를 사용하여 훈련된 모델은 충분한 제안을 제공할 수 있습니다.

그러나 Huffington이나 Altman 모두 제품이 궁극적으로 어떤 형태를 취할 것인지에 대해서는 언급하지 않았습니다. 그들은 제품이 앱으로 출시될 것이라고 말했지만, 허핑턴은 또한 이 제품이 가능한 모든 모드에서 사용 가능하며 마이크로소프트 팀즈와 같은 앱을 통해 업무 시나리오에 통합될 수도 있다고 말했습니다.

2. 데이터 수집은 문제가 되지 않습니다. Altman은 사용자가 이를 공유할 의향이 있다고 말했습니다.

이 초개인화 제품은 AI가 의사 결정을 내릴 수 있는 충분한 정보를 가질 수 있도록 사용자가 대량의 개인 정보를 적극적으로 전달하도록 설득해야 합니다. The Atlantic Monthly와의 인터뷰에서,Altman은 이것이 큰 도전이 될 것이라고 생각하지 않습니다.

Altman은 그가 새 회사를 시작한 이유 중 하나는 이미 많은 사람들이 ChatGPT를 사용하여 의료 문제를 진단하고 있었고 ChatGPT의 권장 사항을 신뢰하고 관련 테스트를 수행하고 치료를 받은 많은 사람들의 이야기를 들었기 때문이라고 말했습니다. 그는 사용자들이 실제로 매우 상세하고 개인적인 정보를 LLM과 공유할 의향이 매우 높다고 믿습니다.

Atlantic Monthly 기자는 ChatGPT가 반환한 의학적 조언에 AI 환각이 포함되어 환자의 건강에 위협이 될 수 있기 때문에 이러한 접근 방식에 충격을 받았습니다. 이런 잘못된 정보에 의존하는 환자들은 전문의사와 갈등을 겪을 가능성도 매우 높다.

또한 기자는 의료정보가 유출되면 이용자들의 개인 권익이 심각하게 훼손될 수 있다고 믿었다. 그러나 알트만은 정보 유출 위험에 대해 확고한 대응을 하지 않고, 이 문제를 사회에 맡겨 처리해야 한다고 믿습니다.

그는 의사와 환자, 변호사와 고객 사이의 의사소통 내용은 현재 법으로 보호되고 있으며 "아마도" 사람들과 AI와의 의사소통에도 유사한 보호가 있어야 한다고 말했습니다. "아마도 사회가 어떤 형태로든 AI 특권을 확립할지 여부를 결정할 것입니다. " ". 즉, 유사한 보호 조치를 적극적으로 추진하지 않고 결정을 사회에 맡길 수도 있습니다.

그러나 건강 데이터 보호는 긴급한 수준에 이르렀습니다.올해 2월, 미국 보험그룹 UnitedHealth Group에 소속된 미국의 의료 기술 대기업인 Change Healthcare가 대규모 랜섬웨어 공격을 받아 의료 보험 시스템이 대규모로 중단되었습니다. 미국인 중 3분의 1이 유출될 위험에 처해 있습니다.

그리고 OpenAI의 데이터 보호 실적은 완벽하지 않습니다.2023년 초, OpenAI 내부 시스템이 사이버 공격을 받아, 회사 직원들이 첨단 AI 시스템에 대해 논의한 채팅 기록이 유출됐다.

또한 2023년 초 기술매체 엔가젯(Engadget)의 보도에 따르면,ChatGPT는 심각한 정보 유출을 경험했습니다.당시 ChatGPT 웹 페이지에 일부 결함이 있어 일부 사용자의 대화 제목이 다른 채팅 상자에 표시되고 일부 사용자의 신원 정보와 은행 카드 정보도 유출되었습니다.

그럼에도 불구하고 Altman은 이번 인터뷰에서 여전히 사회에 "신뢰"를 줄 것을 촉구했습니다. 이는 2023년 Bloomberg Technology Summit에서 모든 사람에게 자신과 OpenAI를 믿지 말라고 촉구했던 발언과 완전히 반대입니다.

▲2023년 블룸버그 기술 서밋에 참석한 알트만(출처: Bloomberg)

Altman은 AI 기술이 건강을 향상시키도록 하는 것이 사람들의 공통된 기대이며 이는 AI를 사용하여 세상을 변화시킬 수 있는 몇 안 되는 응용 분야 중 하나라고 믿습니다. 그는 나중에 AI가 인간의 건강을 향상시키기 위해서는 다음과 같이 덧붙였습니다."어느 정도의 믿음이 필요하다"는 것은 사람들이 새로운 회사가 책임감 있게 업무를 수행할 것이라고 믿어야 한다는 것을 의미합니다.

Time의 공동 집필 기사에서 Altman과 Huffington은 이러한 "신념"을 설명했습니다. 그들은 'AI가 주도하는 행동 변화'를 달성하고 만성 질환의 증가 추세를 반전시키기 위해서는 주로 세 가지 측면에 대한 신뢰가 필요하다고 믿습니다.

한쪽에는 'AI 혁신을 촉진하는 규제 환경'을 조성해야 한다는 정책 입안자들의 믿음이 있다. 의료 종사자들은 또한 AI 도구를 신뢰하고 AI 기술을 진료에 통합해야 합니다. 마지막으로 개인은 개인 데이터를 책임감 있게 처리하는 AI를 신뢰해야 합니다.이는 아직 제품도 없고 구체적인 보안 조치를 취하지 않은 회사에게는 실제로 큰 요청입니다.

결론: AI에게 건강을 양보하기에는 너무 이르며, AI가 믿음의 게임이 되어서는 안 된다.

AI 건강 제품의 구현에 대해 이야기하면서 Altman과 Huffington은 Time Magazine의 공동 저술 기사에서 다음 시나리오를 설명했습니다. "AI 건강 코치는 모든 사람에게 매우 정확한 제안을 제공할 것입니다. 오후 세션을 설정하세요. 탄산음료 세 잔을 물과 레몬으로 교체하세요. 오후 3시 15분에 아이들을 학교에서 데려온 후 함께 10분간 산책을 하십시오. 오후 10시에 휴식 루틴을 시작하십시오. "이 AI 건강 코치는 결국 사람들의 완고한 나쁜 습관 중 일부를 바꿔 궁극적으로 전반적인 인간 건강과 인간 수명 연장.

그런데 사람들이 살아가면서 저지르는 다양한 '건강에 해로운' 행동은 개인적인 습관의 문제일까요, 아니면 더 큰 사회 문제일까요?만성질환 위기를 개인과 AI에게 맡겨 해결해야 할까요, 아니면 정부와 의료기관의 연구와 개입을 통해 체계적인 예방을 해야 할까요?이러한 질문은 소위 AI 의료 인프라가 현실화되기 전에 사람들이 고려해야 할 사항일 수 있습니다.

인터뷰에서 알트만은 AI의 건강 비전을 실현하려면 어느 정도 사람들의 믿음이 필요하지만, AI와 같은 광범위한 기술과 의료와 같은 생명을 위협하는 분야에서는우리에게 정말로 필요한 것은 그런 믿음 게임이 아니라, 검증 가능하고 설명 가능한 기술일지도 모릅니다.

출처: The Atlantic, Time