소식

한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina

텍스트 | zhao yanqiu 및 zhou xiangyue

편집자 | 니우후이

중앙 국유 기업이 구현하는 대규모 모델은 새로운 단계에 진입하고 있습니다. 9월 컨퍼런스에서 업계 고위 인사는 digital intelligence frontier에 대규모 모델의 구현이 더 이상 특정 산업에만 국한되지 않고 각 기업 내에서 구현의 깊이와 폭이 모든 계층에 걸쳐 꽃피웠다고 말했습니다. 또한 큰 진전을 이루었습니다.

업계 관찰에 따르면 일부 주요 국영 기업은 대규모 모델의 초기 파일럿 구현을 완료하는 데 앞장섰으며 점차 더 많은 핵심 시나리오로 이동하기 시작했습니다. "올해 5월부터 대형 모델에 대한 가격 전쟁이 계속 심화되면서 대형 모델의 구현이 더욱 가속화되기 시작했고, 대규모로 여러 시나리오를 탐색하고 복제하기 시작했으며 재무 수준에서 roi가 향상되었습니다. 긍정적으로 바뀌었습니다."baidu의 부사장 xie guangjun은 digital intelligence frontline에 말했습니다.

올해 하반기에는 다시 대형 모델 구현이 진행될 예정이다.불과 2개월 반 만에 시장에 공개된 대형 모델 관련 낙찰 건수가 올해 상반기 6개월간 전체 낙찰 건수를 넘어섰다.. 한 달 만에 낙찰된 프로젝트도 수백 단계에 돌입했다. 대형 모델들이 각계각층에서 꽃피우기에 박차를 가하고 있다. 그 중에서도 에너지, 금융, 교육, 인터넷 등 산업이 특히 활발하다.

급변하는 기술의 물결 속에서 업계 교류도 가속화되고 있습니다. 최근 몇 달 사이 곳곳에서 크고 작은 다양한 ai 컨퍼런스가 생겨났고, 바이두는 9월 25일 2024 바이두 클라우드 인텔리전스 컨퍼런스를 개최할 예정인 것으로 알려졌다. 더 많은 기술 교류와 충돌이 다가오고 있습니다.

01

중앙 국유 기업은 또 다른 큰 진전을 이루었습니다

2024년,중국남방전력망은 다수의 대형 모델 관련 프로젝트 모집 및 조달을 완료했습니다."중국 남부 전력망 주배전 시스템의 ai 기본 훈련 시설 핵심 기술 프로젝트 - 전력 시스템 nlp 대형 모델 기술 연구 및 응용", "중국 남부 전력망 연구소의 2024년 안전 교육 및 추론 기능 세트 연구 개발" 등 전력산업 대형모델용 "부품개발" 등 관련 팀은 공동 혁신을 위해 baidu intelligent cloud와 협력하고 있습니다.

금융 업계에서는 대형 국영 은행이 작년에 수천 명의 고객 서비스 도우미 및 카운터 도우미 시나리오를 대상으로 소규모 파일럿 프로젝트를 시작했으며 올해 이러한 기능은 여러 주요 고객 서비스 센터에서 공식적으로 시작되었습니다. 전국 각지의 일선 카운터 직원으로 승진했습니다. 대형 모델의 일일 활동은 수만 명에 이릅니다.

자동차 분야에서는 지리연구소 관계자가 최근 한 컨퍼런스에서 “이제 자동차 회사들이 자동차를 팔러 나갔는데, 차에 대형 모델이 없어서 제품을 파는 게 민망하다”고 솔직하게 말했다. 대형 모델은 스마트 조종석과 자율 주행을 선보이고 있으며 디지털 마케팅, 사용자 운영 및 기타 시나리오에도 힘을 실어주고 있습니다. 최근에는 geely 산하의 모든 회사에 힘을 실어주기 시작했습니다.

공무시장에서는 지자체가 지역산업을 기반으로 대규모 시범계획을 내놓고 있다. “지능형 컴퓨팅 센터를 먼저 구축하고,올해 말부터 내년 1분기까지 지능형컴퓨팅센터가 대규모로 구축돼 대형 모델과 지역 산업의 결합이 본격화될 예정이다.. "정부 관계자는 시장의 발전에 대해 이야기했습니다. 과학, 교육, 문화 및 보건 분야에서 애플리케이션을 구현하기 시작했습니다. "일부 3차 병원에서는 시험 시나리오에 수천만 달러를 투자하기도 했습니다. 한 의료계 관계자는 "학장은 서비스 수준, 관리, 과학 연구 수준과 밀접하게 관련된 사례 생성, 인적, 재산 관리, 과학 연구 등의 시나리오에 중점을 두고 있다"고 말했다.

수출입 무역의 주요 채널인 항구도 탐색 및 배치되었습니다. baidu 지능형 클라우드 물류 및 운송 솔루션의 총괄 관리자인 hu wei는 "많은 고객이 향후 3년 동안 it 계획에 대규모 모델을 작성하는 것을 확인했습니다."라고 digital intelligence frontline에 말했습니다. "기다리고 지켜보는 사람은 적지만 시도하는 사람은 많아졌습니다."

예를 들어, 화물 처리량 측면에서 세계 1위를 차지하고 있는 산둥항은 지능형 질의응답과 지능형 질의응답 부문에서 대규모 모델의 시범 탐색을 완료했으며, 이 두 가지 기능을 모든 직원에게 출시했습니다.

화학 산업에서는 sinochem information과 baidu smart cloud가 협력하여 신소재 연구 및 개발을 위한 대형 모델의 활용을 모색하고 있습니다. 분자 특성 및 분자 합성 경로로. 현재 특정 분자의 검색 효율성이 5배 이상 증가했으며 연구 개발 작업의 효율성이 크게 향상되었습니다.

이러한 열기는 입찰시장에도 반영된다. 공개 데이터는 다음을 보여줍니다.올해 1월부터 8월까지 국내 대형 모델 당선 프로젝트 수는 2023년 전체의 5배에 이르렀고, 낙찰 금액도 지난해보다 2배 늘었다.. 그 중 대형 헤드 모델 제조사들이 여전히 수주를 독점하고 있다. baidu는 대규모 모델 낙찰 프로젝트 수, 낙찰 금액, 적용 산업, 중앙 국유 기업 수 등 4가지 핵심 지표에서 1위를 차지했습니다.

그러나 data intelligence frontline의 불완전한 통계에 따르면,7월 1일부터 9월 15일까지 단 2개월 반 만에 대형 모델 관련 낙찰 총합이 286건에 달했다., 올해 첫 6개월 동안 총 프로젝트 수를 성공적으로 따라잡았습니다.

구매자 중에는 사업자, 에너지, 교육, 정무, 금융 등이 여전히 가장 많은 발주를 하고 있다. 분명한 징후는 일부 기업이 점점 더 세분화된 요구를 제시하고 데이터 수집 및 거버넌스, 대형 모델 보안, 인재 육성 등 조달이 모두 크게 증가했다는 것입니다.

예를 들어, china southern power grid는 7월부터 9월 중순까지 2개월 반 동안 최소 15개의 대형 모델 관련 프로젝트에 대한 입찰을 완료했습니다. state grid도 3분기에 여러 대형 모델 관련 프로젝트에 대한 입찰을 완료했습니다.

baidu 지능형 클라우드 에너지 전력 산업 총괄 관리자인 li chao는 digital intelligence frontline과의 인터뷰에서 작년 9월 초 중국 남부 전력망이 독립적이고 제어 가능한 대규모 모델인 'big watt'를 출시했다고 말했습니다. 그중 baidu intelligent cloud qianfan 대형 모델 플랫폼은 전력 파견 시나리오에 대한 기술 지원을 제공합니다. 올해 3분기에 중국남방네트워크는 중국남방네트워크의 핵심 사업부를 위한 대규모 언어 모델 선정을 완료했고, 바이두는 기술 서비스 제공업체로 성공적으로 선정됐다.

02

대기업은 '흐름 따라가기' 강조

이번 라운드에서 가장 먼저 대형 모델로 도약한 회사들은 거의 모두 소형 모델 경력을 갖고 있었다. 예를 들어 icbc는 2021년경에 프로젝트를 수립했으며 "더 큰 모델"을 사용하여 ocr과 같은 비즈니스 애플리케이션을 구축하려고 합니다. "chatgpt가 나온 후 그들은 상황을 이용하여 대규모 모델 프로젝트를 시작했습니다." 한 재무 담당자가 digital intelligence frontline에 말했습니다.

생산안전 시장은 정책 감독 대상이고 중앙 공기업의 수익에 거의 가깝다. 이전에 국가 에너지 그룹의 최대 2차 풍력 발전 회사인 longyuan electric power는 전통적인 소형 모델 보안 솔루션을 채택하여 200개 이상의 풍력 발전 단지와 10,000개 이상의 풍력 터빈을 관리하고 안전 모니터링, 분석, 폐쇄 루프를 경고합니다. 올해 2분기에 baidu는 대형 cv 모델의 일반화, 보다 정확한 기능 인식, 대형 언어 모델의 기능을 결합하여 정보를 수집할 수 있는 프로젝트의 업그레이드 버전 입찰에 성공했습니다. 많은 양이 정말 유용합니다.

이전에는 작은 모델이 할 수 없었지만 이제 큰 모델이 가치를 가져올 수 있었던 것은 무엇이었나요? hu wei는 과거에 항구의 일정, 인력 일정, 정박지, 창고 등을 모두 작은 모델을 사용하여 별도로 수행했으며 결과가 좋았습니다.실제로 이는 수학적 알고리즘 문제이며 작은 모델이 매우 적합합니다.. 그러나 이러한 기능이 "통합 일정"을 위해 결합되면 소규모 모델은 데이터 세트 및 장치 전반에 걸쳐 대규모 협업 컴퓨팅 및 조정 계획을 달성할 수 없습니다. "특히 대형 모델이 해결될 수 있기를 바랍니다. 문제는 항구에서 데이터를 집계하는 데 시간이 걸린다는 것입니다."

산업계에서는 작은 샘플을 접할 때 전통적인 cv 소형 모델의 인식률이 상대적으로 낮습니다. cv 대형 모델의 도움으로 작은 샘플 데이터의 인식률을 향상시킬 수 있습니다.

또한 많은 기업에는 지식 관리, 강수 및 응용 플랫폼이 부족합니다. 이제 대규모 모델과 지식 검색의 도움으로 기업은 지식 관리 플랫폼 기능을 형성하여 암묵적 지식을 명시화하고, 명시적 지식을 구조화하고, 구조적 지식을 연관시키고, 관련 지식을 유동화하는 작업을 완료할 수 있습니다.

많은 기업들이 생산 및 운영 회의를 정기적으로 개최하는데, 데이터를 정렬하는 것이 매우 어렵습니다. 대규모 언어 모델의 도움으로 결과를 더 빠르고 정확하게 요약 및 추출할 수 있으며 예비 분석을 완료할 수 있어 사용자에게 매우 높은 가치를 제공합니다.

03

본업 진출을 위해서는 '손과 발'을 찾아야 한다

li chao는 지난 2년 동안 대형 모델의 적용이 아직 초기 단계에 있으며 사무실 및 고객 서비스와 같은 보조 시나리오에 집중되어 있음을 관찰했습니다. 이는 수천만, 수억, 심지어 수백억 달러의 투자를 하는 중앙 국유 기업의 경영에 대한 기대와 완전히 일치하지 않습니다. 이제 대형 모델은 기업의 핵심 비즈니스에 깊이 관여해야 합니다.

“에너지 산업에서는우리는 한 방향으로 투자하고 있습니다 - 시뮬레이션 최적화. "li chao는 말했습니다. 업계에는 대규모 언어 모델이나 대규모 cv 모델로는 수행할 수 없는 메커니즘 및 과학적 계산과 관련된 작업이 많이 있습니다. "이러한 문제가 해결되지 않으면 우리가 상상하는 미래는 빅데이터 기반으로 완전한 agent 서비스를 제공하기 위한 역량 센터로 모델을 구현하는 것은 불가능합니다. "li chao는 앞으로 대형 모델이 전문 분야의 소형 모델과 결합되어 고객의 핵심 비즈니스 시나리오에 침투해야 한다고 말했습니다.

"지난 몇 년 동안 우리는 이 방향으로 몇 가지 토대를 마련했습니다." li chao는 baidu가 시뮬레이션 최적화 엔진을 제공하고 업계 파트너와 협력하여 전력망 파견, 석유 및 석유화학 정제, 석유 및 가스 탐사 시나리오에 참여하고 있다고 말했습니다. 전력망 급전 및 전력망 안정성 상태 분석, 석유 및 석유화학 대기 에너지 섬 운영 최적화, 탈황 및 탈질 등 메커니즘 모델과 관련된 실제 프로젝트가 수행되었습니다. 올해 9월 바이두는 전국 파이프라인 네트워크의 지능형 파견 입찰에도 참여했다.

“이것이 고객이 매우 우려하는 핵심 생산 방향입니다.이러한 방향은 향후 일부 지능형 에이전트 서비스를 전체적으로 구축하기 위해 대형 모델을 스케줄링 센터로 사용할 때 없어서는 안될 "손과 발"입니다.. li chao는 이러한 "손과 발"을 계획하는 데 특별한 노력을 기울일 것이라고 말했습니다. 이러한 "손과 발(전문 api)"이 있어야만 핵심 장면 서비스가 실현될 수 있습니다.

"항구에서는 먼저 질문과 답변을 통해 고객에게 원래의 대형 모델이 신뢰할 수 있음을 확인한 다음 점차적으로 핵심 비즈니스 시스템을 축소합니다."라고 hu wei는 말했습니다. "우리 shandong port group은 이미 다음 단계를 계획하고 있습니다. . , 비즈니스 시나리오에 대해 더욱 심층적으로 알아볼 것입니다.”항구는 물품, 사람, 트럭, 갠트리 크레인 등의 배송이 핵심인 복합 운송 허브입니다.. 이전에는 포트에서 도입한 tos 시스템(터미널 운영 체제)에 점차 ai 알고리즘이 통합되었습니다. 대규모 모델은 더 많은 메타데이터에 액세스하는 문제를 더욱 해결할 수 있습니다.

대형 모델이 생산 핵심 시스템으로 이동함에 따라글로벌 대형모델 경쟁의 핵심능력 중 하나는 논리적 추론이다.. "고객 사이트에서 실시한 테스트에서 서로 다른 대형 모델 간의 복잡한 문제에 대한 논리적 추론이 상당히 다르다는 것을 발견했습니다. 또한 포트에 배치된 수많은 카메라에서 생성된 비디오 리소스가 실제로 사용되지 않았습니다." 이제 한 가지 방향은 이러한 원본 하드웨어와 이미지 리소스를 사용하는 것입니다.더 나은 글로벌 협업을 달성하기 위해 통합을 위해 다중 모드 대형 모델을 사용합니다.. "이것이 우리가 탐구하고 있는 방향이다."

04

ai 워크로드의 74%가 클라우드에 있습니다.

대형 모델의 구현은 복잡한 시스템 엔지니어링입니다. 기업이 심해 지역에 진입함에 따라 구현을 위한 일부 출입구와 경로가 표면으로 가속화되고 있습니다.

"우리가 고객과 연결될 때 가장 먼저 하는 일은 고객이 대형 모델의 경계를 파악하도록 돕는 것입니다." hu wei는 digital intelligence frontline과의 인터뷰에서 배송 지연 문제나 문제로 이어질 수 있는 불일치 인식을 피하기 위해 이렇게 말했습니다. 상황에 따라 그들은 이제 기본적으로 모든 프로젝트를 갖고 있습니다.모두 '가벼운 상담+실시'라는 완전한 과정을 거치게 됩니다.

지능형 컴퓨팅 파워 구축에 관하여, idc 데이터에 따르면,ai 워크로드의 74%가 클라우드에 있습니다.. 그러나 오늘날 지능형 컴퓨팅의 기술 패러다임이 바뀌었습니다. cpu 클라우드 시대에는 누구나 유연성과 궁극적인 비용 효율성을 가장 중요하게 생각하지만, gpu 클라우드는 대규모 클러스터의 컴퓨팅 성능을 활용할 수 있는지 여부가 중요합니다. 이러한 클러스터는 비용이 많이 들 뿐만 아니라 특정 기술 장벽도 있습니다. 따라서 클라우드 공급업체는 여전히 주요 업체입니다.

컴퓨팅 파워와 더불어 데이터의 중요성이 계속해서 부각되고 있습니다.. data intelligence frontier의 불완전한 통계에 따르면 2024년 3분기에는 데이터 구매, 수집, 관리 및 기타 관련 구매가 크게 증가하고 있습니다.

예를 들어 데이터 수준에서 항구 고객 데이터는 각 터미널 회사의 서버에 저장됩니다. huwei는 고객이 전담 데이터 팀을 구성할 것을 권장합니다.

데이터에 관해서는 더 깊은 문제가 있습니다. "요즘 업계에서는 대형 모델을 이야기할 때 데이터를 이야기해야 하는데, 솔직히 말하면 빈말인 경우가 많다."업계 관계자는 솔직하게 말했다.

"대형모델 시대,데이터를 어떻게 준비하고 관리하며 다양한 데이터를 대규모 모델 훈련의 여러 단계에 적용하는 방법은 무엇입니까? 대부분의 사람들은 여전히 ​​맹목적으로 코끼리를 파악하려고 노력하고 있습니다.. "리차오는 바이두도 이 과정에서 많은 함정을 밟았다고 말했다.

예를 들어 일반 모델을 기반으로 산업 모델을 훈련할 때 데이터를 어떻게 일치시켜야 하는지에 대한 기술 가이드가 있습니다. 대형 모델에 너무 적게 공급하면 효과가 뚜렷하지 않습니다. 너무 많이 공급하면 모델이 쉽게 수렴되지 않고 모델의 일반 성능이 저하될 수도 있습니다. 이러한 함정에는 나중에 정착되어 도구 세트를 구성하고 방법론은 qianfan 플랫폼과 전담 기술 서비스 팀을 통해 외부 세계로 수출됩니다.

또한 대형 모델 기술과 적용 사이에 격차가 나타나기 쉽습니다., 많은 "사용자 단위는 ai를 이해하지 못하고 ai 단위는 업계를 이해하지 못합니다." li chao는 격차를 해소하기 위해 업계 배경을 갖춘 솔루션 설계자를 준비하는 것 외에도 파트너 선택에도 중점을 둘 것이라고 말했습니다. "우리는 기본적으로 에너지 산업에서 두 ​​가지 유형의 파트너만 선택합니다. 하나는 고객의 산업 단위이고 다른 하나는 고객의 산업 회사에서 인적 아웃소싱 서비스를 제공하는 회사입니다." li chao는 digital intelligence frontline에 이들의 공통 특성은 다음과 같다고 말했습니다. 그들은 고객의 비즈니스는 물론 it 산업에도 깊이 관여하고 이해하고 있습니다.

또한 특정 장면에 대형 모델을 구현하는 과정에서아직 엔지니어링 작업이 많이 필요합니다.. 예를 들어, 대형 모델은 "총점과 총점" 형식으로 답변을 출력하는 데 익숙하며 답변이 매번 다릅니다. 그러나 일부 고객은 "첫 번째 점수, 그 다음 총점" 방식에 더 익숙하므로 이를 희망합니다. 대답은 "재현"될 수 있습니다. hu wei는 "단어 순서와 문법의 사소한 변경도 일부 항구 리더에게는 허용되지 않습니다"라고 hu wei는 말했습니다.

기업 구현의 전반적인 상황에서 고객의 요구는 360도 다릅니다. 흥미롭게도 모든 클라우드 회사는 현재 클라우드 파트너에서 ai 혁신 전략 파트너로 전환하고 있으며 ai 인프라, 알고리즘 모델, 데이터, 배포 최적화 및 사용자 정의에 대한 전반적인 기술 역량을 업그레이드하고 있습니다.

05

인적 요소

한 기술 회사 cio는 대형 모델의 구축 및 응용 홍보 과정에서 상당한 저항에 직면했습니다. 리더가 그렇게 말하더라도 일선 직원과 부서가 협조하지 않았습니다.회사에서 code assistant를 설치한 후 전체 효율성이 1/3 증가했습니다.. "인원 감축에 대해 거의 이야기하지 않지만 코드를 작성하는 사람들이 개발의 프런트엔드나 백엔드로 이동한다는 의미입니다." 이것은 실제 문제입니다.

전통 산업의 많은 대기업에서는가장 큰 저항은 작업 관성에서 비롯됩니다.. 일선 직원 중 상당수는 노장이다. 이제 장비 유지 관리 보조원을 사용할 기회가 주어지면 "무슨 일이 생기면 직접 해볼 수도 있고 장라오와 세 사람에게 전화할 수도 있다"고 말할 것입니다. 우리는 남은 생애 동안 함께 일할 것입니다."

“대형 모델이 주요 프로젝트입니다.. “한 금융업계 관계자는 위에서 아래로 추진해야 한다고 봤다. 고위 간부들이 벤치마크 프로젝트를 공개적으로 지지한다. “때때로 반대하지 않는 것도 일종의 지지다. "

"초기 단계에 비즈니스 부서를 참여시켜 구축과 최종 채택 및 홍보에 참여하세요." ianalytic의 설립자이자 ceo인 jin jianhua가 말했습니다. 유지 관리 보조원처럼 그룹에는 그룹의 아이디어가 있을 수 있고, 자회사에는 자회사의 아이디어가 있을 수 있으며, 일선 직원은 일선 직원의 아이디어를 가질 수 있습니다. 모든 사람의 수익 기대치를 조정하는 방법은 무엇입니까?균형의 문제죠. 예를 들어, 일부 지식 맵 구축은 중등 기업의 베테랑 전문가가 수행하여 모두가 공통 목표를 향해 나아갈 수 있도록 합니다.

기업은 또한 정기적으로 벤치마크 프로젝트의 운영 상황과 사업 수입을 공개하고 인센티브를 공개적으로 제공해야 합니다. "예를 들어 직원들에게 몇 가지 포인트를 주고, 이를 일부 시스템에 연결하고, 이를 선물과 교환하는 것입니다." 한 기술회사 cio는 "직접적으로 성과와 성과를 연계시키겠다"며 "조금 단순하고 투박하지만 효과는 있다"고 말했다. 이를 위해서는 경영진의 협력과 인력 동원이 필요하다.

최초 보존도 중요합니다. 예를 들어, 입구가 충분히 명확해지고 이전에 허용되지 않았던 내용이 이제 정확해지면 회사 직원들은 계속해서 이를 사용하게 될 것입니다.

비즈니스 부서의 관점에서 우리는 전염성이 있고 그래픽적인 스토리를 디자인할 수 있으며 일부 마스터가 전염성이 있을 수 있는 자신의 경험을 이야기하도록 할 수 있습니다. 프로젝트의 일일 활동, 월간 활동 및 기타 데이터도 똑같이 중요합니다. 이들은기업의 ai 문화 육성。

대형 모델 상륙 열풍이 계속해서 거세지고 있다. 급속한 흐름 속에서 산업 체인의 각계각층의 참여자들은 지속적으로 투자를 늘리고 있으며 더 많은 기업이 디지털 인텔리전스 도약을 달성하도록 추진하고 있습니다.

baidu는 또한 가까운 시일 내에 9월 25일에 개최될 큰 움직임을 선보일 예정입니다.2024 바이두 클라우드 인텔리전스 컨퍼런스. 그때까지 baidu intelligent cloud qianfan 플랫폼은 애플리케이션 개발 도구, 대형 모델 및 도구 체인의 세 가지 주요 ai 애플리케이션 제품인 baidu intelligent cloud keyue, wenxin quick code·baidu comate 및 baidu xiling digital people에서 새로운 업그레이드를 선보일 것입니다. 스마트 금융, 스마트 산업, 스마트 교통, 스마트 정부 업무, 스마트 자동차, 구체화된 지능 등 여러 하위 포럼이 동시에 개최되어 더 많은 기술 교류와 충돌을 달성할 것입니다.