2024-09-14
한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina
ai 추론 모델 o1
ifeng.com 기술 뉴스 베이징 시간 9월 14일, openai는 자사의 최신 ai 추론 모델 o1이 ai가 생물학적 무기를 만드는 데 남용될 위험을 "상당히" 증가시킨다고 인정했습니다.
openai의 시스템 카드는 ai의 작동 방식을 설명하는 도구입니다. 이 도구는 새 모델이 화학, 생물학, 방사선 및 핵무기(cbrn)와 관련된 문제에 "보통"의 위험을 제기한다고 밝혔습니다.이는 openai가 제시한 가장 높은 위험입니다.openai는 이 모델이 전문가의 생물 무기 제작 능력을 "상당히 향상"시킨다는 것을 의미한다고 말합니다.
전문가들은 더욱 발전된 기능을 갖춘 ai 소프트웨어가 위험한 행위자의 손에 넘어갈 경우 악용 위험이 높아진다고 말합니다. 예를 들어, o1 모델에는 단계별 추론 기능이 있습니다.
openai의 최고 기술 책임자인 mira murati는 financial times와의 인터뷰에서 openai가 고급 기능 때문에 o1 모델을 대중에게 출시하는 데 특히 "신중"하다고 말했습니다. 그녀는 이 모델이 다양한 과학 분야의 전문가인 소위 "레드 팀"에 의해 테스트되었다고 덧붙였습니다. mulati는 o1 모델이 전반적인 안전 지표에서 이전 모델보다 훨씬 더 나은 성능을 발휘했다고 말했습니다. (저자/샤오유)
더 많은 직접적인 뉴스를 보려면 phoenix news 클라이언트를 다운로드하고 phoenix technology를 구독하세요. 심층적인 보고서를 보려면 wechat에서 "ifeng.com technology"를 검색하세요.
