2024-09-17
한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina
whips는 9월 17일 외신에 따르면 openai ceo인 sam altman이 회사의 프로젝트 및 운영과 관련된 주요 보안 결정을 감독하는 openai가 5월에 설립한 내부 위원회를 떠날 것이라고 보도했습니다.
openai는 오늘 블로그 게시물을 통해 안전 보안 위원회가 카네기 멜론 대학의 지코 콜터(zico kolter) 교수가 의장을 맡고 quora ceo인 adam d'angelo, 퇴역 미 육군 장군인 paul nakasone 및 전 sony 부사장 등이 참여하는 독립적인 이사회 감독 그룹이 될 것이라고 밝혔습니다. 니콜 셀리그먼 대통령.
그들은 모두 현재 openai 이사회의 구성원입니다.
openai는 게시물에서 altman이 여전히 참여하고 있지만 위원회가 openai의 최신 ai 모델 o1에 대한 보안 검토를 수행했다고 지적했습니다.회사는 openai 보안팀으로부터 정기적인 브리핑을 계속 받을 것이며 보안 문제가 해결될 때까지 출시를 연기할 권리가 있다고 밝혔습니다.
openai는 해당 게시물에 다음과 같이 썼습니다. 작업의 일환으로 안전위원회는 현재 및 미래 모델에 대한 정기적인 기술 평가 보고서와 지속적인 출시 후 모니터링 보고서를 계속 받을 것입니다. 우리는 모델 출시에 대한 성공 기준을 명확하게 정의하기 위해 모델 출시 프로세스 및 관행을 기반으로 포괄적인 보안 프레임워크를 구축하고 있습니다.
알트만이 안전보안위원회에서 탈퇴한 것은 5명의 미국 상원의원이 올 여름 알트만에게 보낸 서한에서 openai의 정책에 대해 의문을 제기한 이후에 나온 것입니다.
한때 인공 지능의 장기적인 위험에 집중했던 openai 직원의 거의 절반이 떠났고, 전 openai 연구원들은 altman이 openai의 기업 목표를 발전시키는 정책을 선호하여 실제 ai 규제에 반대한다고 비난했습니다.
그들이 말했듯이 openai는 작년 전체 예산 260,000달러에 비해 2024년 첫 6개월 동안 800,000달러의 예산으로 연방 로비에 대한 지출을 크게 늘렸습니다.
올 봄 초, altman은 미국의 중요 인프라에서 인공 지능의 개발 및 배포에 대해 조언하는 미국 국토 안보부의 인공 지능 안전 및 보안 위원회에도 합류했습니다.
altman이 제거되더라도 안전위원회가 openai의 상용 로드맵에 심각한 영향을 미치는 어려운 결정을 내릴 조짐은 거의 없습니다.
특히 openai는 지난 5월 위원회를 통해 자신의 작업에 대한 타당한 비판을 다룰 것이라고 밝혔습니다. 물론 타당한 비판은 보는 사람의 인식에 달려 있습니다.
지난 5월, 전 openai 이사회 회원인 helen toner와 tasha mccauley는 the economist의 논평에서 openai가 신뢰할 수 없으며 책임을 질 수 없다고 생각한다고 말했습니다.
그들은 다음과 같이 썼습니다. 우리의 경험을 바탕으로 우리는 자율성이 이익 인센티브의 압력을 안정적으로 견딜 수 없다고 믿습니다.
그리고 openai의 이익 인센티브는 여전히 증가하고 있습니다.
이 회사는 65억 달러 이상의 자금을 조달할 것이라는 소문이 있는데, 이는 openai의 가치를 1,500억 달러 이상으로 평가할 것입니다. 이번 거래를 성사시키기 위해 openai는 투자자 수익을 제한하도록 설계된 하이브리드 비영리 기업 구조를 포기할 가능성이 높습니다. 부분적으로는 openai가 창립 사명인 모든 인류에게 혜택을 주는 일반 인공 지능을 개발한다는 사명을 계속 유지하도록 보장하기 위함입니다.
