소식

인터페이스 뉴스 기자 | 추이 펭

인터페이스 뉴스 편집자 | 송 지아난

9달25낮아침，바이두는윤지회의에서발표백게에이나이기종 컴퓨팅플랫폼4.0그리고천개의 돛 대형 모형플랫폼3.0기다리다에이나인프라 제품，그리고 발표했다알았어요다수의에이나관련사업~의최신데이터。안에,원신대형 모델일일 평균부르다수량이미초과하다71억，거리바이두지난번에발표하다~의61억데이터가지다더 나아가홍보하다。

존재하다방금 끝났어알리윈치 컨퍼런스우수한，알리바바기음이자형영형우용밍항상표현하다，알리바바 클라우드~의단일 네트워크무리이미다음으로 확장10만카드수준,그리고바이두도 그렇고받아들이고 싶지 않은뒤에。shen dou, baidu 그룹 수석 부사장 겸 baidu 지능형 클라우드 비즈니스 그룹 사장특별한강조하다，백게4.0할 것이다비단예완카무리，꽤그것을 가지고성숙한10만카드무리배포그리고관리능력。

바이두올해항상 거기에강조하다대형 모델~의착륙애플리케이션. 바이두 ceo 로빈 리가 최근 내부 연설을 했다.~을 의미한다，가지다애플리케이션 시나리오、~할 수 있다지속적인 반복치받이~의대형 모델,그리고다른모델제품 갭은점점 더 커지고 있습니다.

이를 바탕으로,바이두찾았다장안자동차그리고삼성기다리다많이고객의 웹사이트,에 의해전시하다baidu의 대형 모델을 다양한 산업 분야에 적용한 결과입니다.

쉔은 떨린다표현하다，지난 1년 동안,바이두느끼다고객~의모델필요급등하다，필요한 클러스터 크기가 점점 커지고 있으며,기업오른쪽모델추론 비용감소~의예상되는또한점점 더 높아져。

대형 모델 학습전제는만들다무리, 이것은 단지 gpu를 구입하고 조립하는 것이 아닙니다.일반적으로필요몇 달지휘하다장비구성그리고디버그。

이전에는클라우드 공급업체클러스터를 형성한다고 언급됨할 수 있다압축도착하다1하늘,그리고쉔은 떨린다말하다，백게4.0할 수 있는가장 빠른1완료 시간설립하다,기본사용할 것이다업계에서 인기 있는 교육도구그리고액자지휘하다내장된 방식.

한 번에 들어가다대규모 훈련단계，가장 중요한즉안정。대형 모델 분야에서는 매개변수, 컴퓨팅 성능, 데이터 세트 크기가 증가함에 따라 모델 성능이 향상될 것이라고 믿는 유명한 스케일링 법칙을 항상 따라왔습니다.。

shen dou에 따르면, g피유클러스터 비용엄청난 금액~의건설및 운영 비용, 일반적으로 빌드하나완카무리，하나예g피유~의구입비용즉시건담수십억원.만약에예10만카드무리，섬기는 사람어느 날소비하다~의힘에 대한예300만킬로와트시，동등하다베이징둥청구어느 날~의주거용 전력 소비。

존재하다이런 종류의대판~의클러스터에，하드웨어불가피한회의나타나다잘못，규모가 클수록，오작동개연성높을수록。존재하다이것들오작동，대다수예의존하다g피유원인，왜냐하면g피유예매우 민감하다하드웨어，오른쪽온도、습기기다리다환경파동반응형。

shen dou가 언급됨，meta가 llama3 모델을 학습시켰을 때 16,000개의 gpu 카드를 사용하는 클러스터는 3시간마다 평균 오류를 경험했습니다.

대형 모델기차예거대한단일 작업，하나마디오류，전체무리그냥 필요해멈추다,그리고롤백도착하다이전의메모리 포인트。고려g피유무리~의비용매우값비싼，모든많은멈추다1분할 것이다헛된 돈을 태워，“효과적인 훈련지속"그것은매우중요한 지표。

~에 맞서대형 모델기차진행 중잦은 실패~의질문，백게4.0오른쪽결함 감지수단그리고자동 결함 허용 메커니즘지휘하다알았어요치받이，현재완카무리우수한~의효과적인 훈련 시간성취하다99.5%，쉔은 떨린다말하다이는 다음보다 높습니다.동료상대~의데이터성능. 또한,백게4.0할 것이다주류긴 텍스트추론 효율성홍보하다알았어요1타임스~ 위에，동시에줄인추론 비용。

baidu의 최근 실적 발표에서로빈 리항상바이두 스마트 클라우드 ai의 매출 기여도는 전분기 6.9%에서 2분기 9%로 더욱 늘어난 것으로 나타났다.

대형 모델도구~의성능홍보하다물론중요한，하지만바이두얘기하자，모델 착륙~의업적좀 더 실용적인 의미。

업그레이드 제외백게플랫폼 외에도 baidu는 또한 강조했습니다.최신첸판3.0플랫폼. shen dou가 발표한 데이터에 따르면,qianfan 대형 모델 플랫폼에서 wenxin 대형 모델은 하루 평균 7억 번 이상 호출되어 사용자가 30,000개의 대형 모델을 미세 조정하고 700,000개 이상의 엔터프라이즈급 애플리케이션을 개발하는 데 도움이 됩니다.qianfan 3.0 캔wenxin 시리즈 대형 모델을 포함해 약 100여 개의 국내외 대형 모델을 호출할 수 있으며, 음성, 비전 등 다양한 전통 소형 모델 호출도 지원합니다.

현재,대형 모델착륙~의빅 3주요 요구 사항그들은애플리케이션 개발、모델추리그리고모델개발하다。

존재하다애플리케이션 개발 계층，엔터프라이즈 수준아르 자형에이g（할 것이다기업그리고산업 데이터만들어진플러그인지식 기반주다대형 모델）그리고에이신사대리인예두 가지 전공흔한~의대형 모델착륙장면。

그 중 지능형 에이전트는 작업을 받은 후 독립적으로 생각하고, 작업을 분해하고, 계획을 계획하고, 도구를 호출하여 전체 프로세스를 독립적으로 완료합니다.，~할 수 있다과거를 완성하세요필요3 ~4개인에이피피재능완전한일。

쉔은 떨린다표현하다，바이두내부~을 위한첸판플랫폼공급알았어요바이두 검색그래서그리고바이두 지도기다리다초과하다80개인공식 구성 요소，에 사용홍보하다대리인존재하다특정 작업에능력。

그리고robin li의 관점에서 지능형 에이전트는 대형 모델입니다.개발됨다음중요한 방향."많은 사람들이 지능형 에이전트의 개발 방향에 대해 낙관하고 있지만, 오늘날 지능형 에이전트는 합의된 부분이 아닙니다. 바이두처럼 지능형 에이전트를 가장 중요한 전략이자 대형 모델의 가장 중요한 개발 방향으로 간주하는 회사는 많지 않습니다. ."

baidu는 올해 create 컨퍼런스에서 agentbuilder, appbuilder 및 modelbuilder라는 세 가지 제품을 출시했습니다. 그중 agentbuilder와 appbuilder는 모두 지능형 에이전트와 관련이 있으며 하나는 임계값이 낮고 다른 하나는 기능을 강조합니다.

바이두가 최근 공개한 데이터에 따르면, 바이두 생태계 내 지능형 에이전트의 분포가 크게 증가해 7월 하루 평균 배포 횟수가 800만 회를 넘어섰는데, 이는 5월의 2배 수준이다.

바이두 소유디지털 맨플랫폼그리고스마트한 고객 서비스 상품도 준비되어 있습니다최신 개발。그중 xilin digital human platform 4.0은 텍스트를 기반으로 다양한 메이크업 스타일과 다양한 산업 특성을 지닌 3d 디지털 휴먼 이미지와 비디오의 빠른 생성을 지원하며, 3d 초현실적 디지털 휴먼 가격을 10,000위안에서 199위안으로 인하했습니다.

지능형 고객 서비스 제품 '키유'는 사용자 의도 파악과 다중 모드 정보 교환 측면에서 최적화되어 복잡한 문제 처리 능력이 향상되었습니다.

baidu에 따르면 현재 업계에서는"문제 해결률"~의평균 레벨은 80%인데, 업그레이드 이후 '커위에'는 이 지표를 92%로 높였다. 이 제품은 기업 고객이 1억 5천만 명이 넘는 사람들에게 서비스를 제공하고 5억 번 이상 상호 작용하도록 도왔습니다.