2024-08-02
한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina
8월 2일 뉴스에 따르면 제12회 인터넷보안회의(ISC.일체 포함 2024), 이번 컨퍼런스는 “Building a Safe”라는 주제로 개최됩니다.대형 모델, 보안 산업의 새로운 혁명을 선도하다'라는 주제로 보안과 AI라는 두 가지 주요 분야에 대해 심도있게 다루었습니다. 현장에서 인터뷰한 내용은 다음과 같습니다.360지나오 회장장 샹정, 360 Intelligence의 보안 문제에 대한 이해와 제품 기획에 대해 심도있는 교류를 진행했습니다.
Zhang Xiangzheng은 지능형 두뇌 팀이 일반 모델 기능은 물론 지능형 읽기, 브라우저, 텍스트 요약, 비디오/자막 요약, 마인드 맵 생성, 검색어 추측, 의도 인식 등 핵심 비즈니스 시나리오를 위한 특수 기능을 담당한다고 소개했습니다. 요약 등이 있습니다. 잠깐만요. 동시에 Intelligent Brain 팀은 API 및 AI 보안을 대규모 모델 기능과 결합하는 작업도 담당합니다.
이번 컨퍼런스의 주제는 "대규모 보안 모델 구축"입니다. 보안 주제와 관련하여 Zhang Xiangzheng은 보안 문제가 여러 부분으로 나누어져 있다고 말했습니다. 첫 번째 부분은 전통적인 네트워크 보안과 관련된 시스템 배포 수준입니다. 벡터 데이터베이스를 포함한 에이전트 프레임워크 포함, 자체적으로 잠재적인 취약성 위험이 있는 PyTorch 프레임워크 포함, 두 번째 부분은 생성된 콘텐츠가 규제 요구 사항을 충족하는지 여부이며, 세 번째 부분은 출력 결과 오류입니다. 10%가 발생한다, 이 10%가 발생하는지 모르겠다. 많은 경우에 발생하는 결과는 어느 시점에서 믿어야 하나, 말아야 하나? 네 번째 블록은 에이전트 프레임워크와 관련되어 있습니다. 대규모 모델은 스케줄링의 허브일 뿐이며 회사나 기업 내의 많은 제3자 또는 많은 데이터베이스에 액세스할 수 있습니다. 예를 들어, 구체화된 지능에 사용될 경우 일부 위험한 작업이 수행될 수 있습니다.
보안 수준에서 ToB와 ToG의 차이점도 분명합니다. Zhang Xiangzheng은 보안 문제에 대한 허용 범위가 다르다고 소개했습니다. 예를 들어 정부 부서는 교육 데이터와 모든 미세 조정 및 증분 교육을 위한 민영화된 배포 솔루션을 제공해야 합니다. 정부 기관 내부에서 수행해야 합니다. ToB 시나리오의 대표적인 것이 교육이다. 온라인에는 두 가지 버전이 있다. 제품 관리자는 왜 시 전체의 소개가 본문과 다른지 궁금해한다. 유명한 시. 아이들은 변별력이 좋지 않아 결과의 신뢰성에 대한 요구가 매우 높습니다.
소형 모델 주제에 대해 Zhang Xiangzheng은 컴퓨터 측면에서 소형 모델 적용에 대해 일부 탐색을 수행하고 관련 솔루션을 내부적으로 테스트했지만 여전히 요구 사항을 충족하는 노트북이 너무 적고 볼륨이 부족하다고 지적했습니다. 그다지 크지는 않습니다. 또한, 현재 소형 모델의 제품화는 아직 갈 길이 멀다고 생각합니다.
최근 화제가 되고 있는 AI 검색 주제에 대해 Zhang Xiangzheng은 전통적인 검색에 비해 AI 검색은 다단계 추론이나 다중 키워드 검색을 사용하여 복잡한 문제를 세분화하고 단계별로 자동으로 해결할 수 있다는 점에서 더 독특하다고 답했습니다. 다단계 검색을 한 후 융합을 하거나, 추론의 첫 번째 단계를 완료한 후 추론 결과에 대해 다시 검색을 한 다음 이를 대형 모델에 넘겨준 다음 융합을 수행합니다. 앞으로 AI 검색 기능이 더욱 강해지면 사용자의 습관이 마이그레이션되겠지만, 이는 완전히 새로운 제품 형태라고 할 수는 없다. 이는 사용자의 사용 습관과 관련이 있다. (딩시)
이 기사는 NetEase 기술 보고서에서 발췌한 것입니다. 자세한 내용과 심층적인 내용을 보려면 팔로우하세요.
