소식

openai와 anthropic은 미국 정부가 새로운 모델의 위험을 선제적으로 평가하도록 지원합니다.

2024-08-30

한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina

openai와 anthropic은 ai 분야의 리더로서 기술 발전을 촉진하는 책임을 잘 인식하고 있습니다. 양사는 새 ai 모델이 사회적 위험을 가져오지 않도록 하기 위해 새 모델 출시 전 미국 정부 산하 ai 보안연구소에 제출해 평가를 받기로 했다. 이 협력의 목표는 기술 발전이 잠재적인 부정적인 영향을 피하면서 사회의 장기적인 이익에 부합하도록 보장하는 것입니다.

ai 안전연구소는 책임 있는 ai 혁신을 촉진하기 위해 바이든-해리스 행정부의 행정명령의 산물로 2023년 설립됐다. 연구소는 모델의 기능, 가능한 위험 및 이러한 위험을 완화하기 위한 전략을 포함하여 openai 및 anthropic의 새로운 ai 모델에 대한 포괄적인 보안 평가를 수행할 것입니다. 이러한 과정을 통해 ai 기술의 발전이 사회의 기대와 요구를 충족할 수 있음이 보장됩니다.

openai와 anthropic 경영진은 이번 협력에 대한 확고한 지지를 표명하고 ai 개발에 있어서 보안의 중요성을 강조했습니다. 그들은 정부와 협력함으로써 기술 발전이 사회에 미치는 영향을 더 잘 이해하고 잠재적인 안전 위험을 완화하는 방법을 공동으로 연구할 수 있다고 믿습니다.