소식

이미지 출처: 비주얼 차이나

기고자 저우즈하오 |

편집자 | 왕웨이카이

편집자 주:

~부터오픈AI 2024년에도 대형 모델은 여전히 ​​가장 뜨거운 트렌드가 될 것이다. 기술의 본고장인 실리콘밸리는 인재로 넘쳐난다. 훌륭한 조직이라면 개개인의 창의성을 최대한 자극할 수 있는 방법과 이에 상응하는 도구를 찾아냈을 것입니다. 하지만 더 중요한 것은 그 찰나의 천재적인 순간을 포착하는 것입니다. 'AI 라이트이어'는 일부 AI 기업 직원들의 인터뷰를 통해 국내외 대형 모델 기업의 현재 변화를 기록한다. 미래를 좌우할 인재는 어디에 있는가? 두 번째 기사에 대한 내용입니다.

서니베일에서 샌프란시스코 시내까지 약 40마일을 운전한 스탠포드 대학교 석사과정 자오 밍(Zhao Ming)이 AI 벤처 캐피탈 행사에 참가할 예정입니다. 6월 주말 저녁 자오밍의 활동 트랙입니다.

실리콘밸리 지역 달러 펀드의 파트너들이 행사를 주최했습니다. 참석자 중에는 수십 개의 AI 스타트업 창업자와 다양한 자본을 대표하는 약 50명의 투자자가 포함됩니다. 행사 기간 동안 기업가들은 자신의 아이디어를 투자자들에게 판매하기 위해 무대에 올랐고, AI 엔지니어들은 청중 속에서 '시장'을 지켜봤다.

"이러한 장면은 실리콘 밸리에서 매주 일어납니다." Zhao Ming은 "AI Lightyear"의 저자에게 말했습니다. 친구의 도움으로 그는 티켓을 받았습니다. 자오밍은 스탠포드대학교에서 컴퓨터공학을 전공했으며 현재 AI 업계에 진출하겠다는 각오를 갖고 있다.

그는 이번 행사에서 더 많은 기술 실무자들을 만나 업계의 최첨단 정보를 얻을 수 있기를 기대하고 있습니다. 그런데 그가 놀란 것은 400명이 넘는 참석자 중 절반이 중국인이었다는 점이다.

교환 과정에서 이들의 신원은 점차 명확해졌습니다. 투자 기회를 찾기 위해 베이징에서 날아온 벤처 캐피탈리스트도 있었고, Google, Microsoft 등에서 수년간 근무한 중국인 소프트웨어 엔지니어도 있었습니다. 미국 명문 대학에서 AI를 공부하고 있던 중국인 학생.

그들은 실리콘밸리 중국인의 전형이다. 미국 맥크로폴로 싱크탱크(Mccropolo Think Tank)의 보고서(2022년)에 따르면 당시 미국에서 활동하던 최고 수준의 인공지능 연구자 중 중국 출신 연구자가 38%, 미국인이 37%를 차지했다. 2019년에도 이 두 수치는 여전히 27%와 31%였다.

중국인은 항상 실리콘 밸리 기술계의 "중추"였습니다. 이제 새로운 AI 물결 속에서 실리콘밸리의 중국 젊은이들은 어떤 기복을 겪고 있을까?

"실리콘밸리로 가라, 새로운 생산력에 가장 가까운 곳으로 가라."

Qin Tian은 저자에게 “실리콘 밸리의 AI 기술자 중 다수는 중국인입니다.”라고 말했습니다.

그는 실리콘 밸리의 유명 기술 회사에서 기계 학습 엔지니어(MLE)로 근무하고 있습니다. 2019년 미국 TOP30 대학에서 컴퓨터공학 석사학위를 취득한 뒤, 실리콘밸리에서 AI 관련 알고리즘 연구에 참여하기 시작했다. 그의 팀에서는 중국인 엔지니어가 거의 40%를 차지합니다. “나머지는 주로 인도 출신이고 일부는 루마니아 및 기타 국가 출신의 동유럽 출신입니다.”

실리콘밸리 인디케이터스(Silicon Valley Indicators)의 보고서에 따르면 실리콘밸리 인구는 주로 아시아인과 백인으로 이루어져 있으며, 아시아인 인구 중 중국인의 비율이 가장 높다. 2022년에는 중국인이 아시아 인구의 31%를 차지해 실리콘밸리에서 가장 중요한 아시아 집단 중 하나가 됐다. 그 전에는 Qin Tian의 중국인 친구 중 상당수가 소프트웨어 엔지니어였습니다.

하지만 2022년 초에는오픈AI최신 버전의 GPT3와 DALL-E 2가 출시되면서 이러한 상황은 깨졌고, 많은 사람들이 AI로 변신하기 시작했습니다.

Qin Tian을 예로 들면, 그의 사업 부문은 여전히 ​​AI 기능을 갖춘 모바일 카메라 애플리케이션을 개발하고 있었습니다. 2022년 6월까지 회사는 갑자기 전략적 조정을 발표하여 거의 5년이 된 제품 라인을 중단하고 대형 모델 분야로 전환했습니다.

사실 이런 조정은 2022년에도 드물지 않다. 그 해, 메타(Meta), 어도비(Adobe), 구글(Google) 등 실리콘밸리의 많은 기술 대기업들은 OpenAI의 뒤를 이어 대대적인 사업 조정을 하고 AI 대형 모델 분야를 개발했습니다. 이러한 변화로 인해 수많은 소프트웨어 엔지니어가 인공지능 사업 분야로 유입되고 있으며 이들 중 다수는 중국인입니다.

카네기멜론대학교를 졸업한 장위(Zhang Yu)는 현재 구글 모회사에서 근무하고 있다.자동 조종 장치회사웨이모 차량 탑재 AI 시스템의 연구 개발을 담당하는 업무입니다. 장유(張玉)가 소개했다.채팅GPT-4 Waymo는 등장 후 사임의 물결을 겪었고 일부 중국 동료도 떠나기를 선택했습니다. Zhang Yu는 "이직률은 가변적이며 일부 그룹에서는 일주일에 한 명씩 잃을 수도 있습니다"라고 말했습니다.

이들 동료 대부분은 대규모 언어 모델의 연구 개발에 종사하는 기술 회사로 전환하거나 Google로 돌아와 다른 제품의 AI 연구 및 개발을 담당했습니다. 장위는 이렇게 한탄했다. “실리콘밸리에서는(주) 자율주행보다 더 인기 있는 분야가 됐다. "

이 AI 물결에 합류하는 것은 실리콘밸리에서 수년간 열심히 일한 '노인 엔지니어'뿐만 아니라 이러한 추세를 따라잡기 위해 중국에서 건너온 '신인'도 있다.

Shi Qi(25세)도 그중 한 명입니다. 올해 5월 중국에서 샌프란시스코로 비행기를 타고 AI에 주력하는 스타트업 기업에 입사하기로 결정했다. Shi Qi는 올해 중국에서 그와 같은 사람들이 얼마나 많이 왔는지 확신하지 못하지만 "인재와 자본은 항상 생산성이 가장 뛰어난 곳으로 유입될 것"이라고 믿습니다.

Shiqi의 실리콘 밸리 진출 결정은 충동적인 것이 아니었습니다. 그 전에는 2021년 대학을 졸업한 후 국내 주요 인터넷 기업에서 근무했다. 처음에 직장에 새로 온 Shi Qi는 비즈니스 분야에서 "자신의 재능을 유연하게 발휘"하고 싶었습니다. 그러나 나중에는 실제 작업이 자신의 기대와는 다르다는 것을 점점 더 많이 느꼈습니다.

2022년경 Shi Qi의 제품 라인은 정체된 성장에 빠졌습니다. 제품 경험 최적화가 아무리 많이 이루어지더라도 사용자 수는 더 이상 획기적인 성장을 볼 수 없습니다. "정말로 주식 시대가 도래한 것 같습니다." Shi Qi는 자신이 일찍부터 "은퇴 상태"에 진입했다고 느낍니다. 그는 매일 시스템을 유지 관리하고 필요에 따라 일부 코드를 수정합니다.

10시부터 6시까지 일하고 더 이상 996도 아닌 정시에 퇴근하는 나날은 Shi Qi를 위협하게 만들었습니다. 나는 "자유롭다"지만 "당신이 있든 없든 마찬가지다"라는 뜻이기도 하다.

이런 상황에서 그는 아르바이트를 생각하게 됐다. 우연히 Shi Qi는 미국 미시간주의 한 AI 스타트업 인터뷰에 합격하고 원격 근무를 시작했습니다. 2022년 봄, 회사 상사는 갑자기 Shi Qi에게 메시지를 보내 회사가 OpenAI에서 출시한 최신 InstructGPT인 새 모델을 확보했다는 내용의 메시지를 보내고 그를 내부 테스트에 초대했습니다.

"지금까지 봐왔던 AI와는 전혀 다르다." 시치가 한숨을 쉬었다. GPT-3은 2020년 초에 출시되었지만 InstructGPT는 인간 피드백(RLHF)의 강화 학습을 사용하여 인간 선호도 및 의도와 보다 일치하는 응답을 생성합니다. Shi Qi는 "뭔가 다른 것을 가져올 수도 있습니다."라고 직관했습니다.

그 이후로 Shi Qi의 회사는 새로운 제품을 개발하기 위해 이 언어 모델에 대규모로 접근하기 시작했습니다. 이로 인해 Shi Qi는 중국과 미국 간의 AI 홍보에 있어 격차를 느꼈습니다. 당시 Shi Qi 주변의 소프트웨어 엔지니어 중 GPT에 노출된 사람은 거의 없었고 사무실에 있는 누구도 트랜스포머 페이퍼에 대해 이야기하지 않았습니다. 하지만 미국에서는 OpenAI가 주요 기술 기업들 사이에서 화제가 됐다.

Shi Qi는 GPT에 관심을 보인 중국 최초의 엔지니어들이 GitHub(오픈 소스 커뮤니티) 방문을 좋아했다고 회상했습니다. 당시 일부 본토 엔지니어들이 GPT의 API에 액세스하여 일부 셸 애플리케이션을 만들기 시작했습니다. 하지만 2022년 말 GPT-3.5가 출시되고 나서야 비로소 국내 대형 모델이 자본의 관심을 받기 시작했습니다. 2023년에는 '100인 모델 대결'에 돌입했다고 언론에서도 언급되고 있다.

2023년 말, Shi Qi는 이전의 원격 근무 경험을 바탕으로 현재 회사로부터 초대를 받았습니다. “실리콘밸리로 가세요. 새로운 생산성에 가장 가까운 곳으로 가세요.”

대기업 볼륨모델, 스타트업이 B사이드 쟁탈전

회사가 AI에 올인한 이후로 Qin Tian은 업무 압력이 증가했다고 느꼈습니다.

Qin Tian의 이해에 따르면 2022년 여름 이전에는 작업 분위기가 상대적으로 편안했습니다. “이는 이전 정보화 시대에 남겨진 경쟁 장벽 때문입니다.” 백엔드 개발을 담당하며 매일 같은 시간에 퇴근한다. 신제품 출시에 대한 부담은 크지 않다. “오래된 인터넷 제품은 수익을 유지하고, 2~3시 이후에 신제품이 나오는 게 정상이다. 연령."

요즘 실리콘밸리의 주요 기술 기업들은 AI 경쟁에 감히 게을리하지 않는다. 업무 라인 조정으로 Qin Tian의 일상은 더욱 간결해졌습니다. 밤 11시에 퇴근하는 것이 일반화되었고, 주말 초과 근무는 불가피해졌습니다.

AIGC에 대한 OpenAI의 진전은 너무 빨랐기 때문에 실리콘밸리의 다른 회사들에 많은 압박을 가했습니다. 2024년 2월 OpenAI가 Sora를 출시한 후 Qin Tian 회사의 주가는 큰 폭의 타격을 입었습니다. 단 한 봄 만에 가격이 30% 이상 떨어졌습니다. 지난해 자본시장은 여전히 ​​회사의 전략적 조정에 대한 자신감으로 가득 차 있었고, 한동안 주가는 60% 이상 상승하기도 했습니다.

OpenAI와 같은 주요 제조업체와의 경쟁에 직면한 Qin Tian의 회사는 제품 업데이트 속도를 가속화하고 출시 주기를 최소 6개월에 한 번으로 단축하여 회사가 이러한 기술 혁신의 물결에서 경쟁력을 유지하고 사진에 찍히는 것을 방지했습니다. 해변.

"제품은 빠른 속도로 반복되어야 하며 동시에 더 많은 최첨단 논문이 연구되어야 합니다." Qin Tian은 실리콘 밸리에서 새로운 기술 군비 경쟁이 일어나고 있다고 말했습니다. Qin Tian은 주로 MLLM(다중 모드 대형 모델) 개발을 담당하고 있습니다. 간단히 말해서 모델이 언어, 비디오, 오디오 및 기타 데이터를 동시에 입력하여 콘텐츠를 더 많이 이해하고 생성할 수 있도록 합니다. 포괄적으로.

다중 양식 분야는 AI 엔지니어가 탐험하기를 기다리는 새로운 광산입니다. 지난 5월 발표된 업계 논문에서는 자원 소모를 줄이는 동시에 적용성을 확대하고 성능 저하를 최소화하는 것이 MLLM의 주요 연구개발 목표인 것으로 나타났다.

최근 차이나위즈덤(China Wisdom)과 국내 여러 대학이 제안한 멀티태스킹 장기 영상 이해도 평가 벤치마크인 MLVU가 최신 인기 멀티모달 대형 모델 20개를 평가한 결과 1위인 GPT-4의 단일 선택 정확도가 높은 것으로 나타났다. 65%가 부족했기 때문에 기존 모델은 여전히 ​​긴 영상을 이해하는 데 큰 어려움을 겪고 있습니다.

"우리는 이 새로운 분야를 다루기 위해 새로운 기술의 출현에 지속적으로 주의를 기울여야 합니다."라고 Qin Tian은 말했습니다. 예를 들어 Open AI에서 사용하는 DIT(확산 변환기) 알고리즘 아키텍처가 더 나은 비디오를 생성하면 Qin Tian과 그의 동료들은 이를 즉시 추적하여 제품 반복 방향을 결정합니다.

대형 모델 트랙에 대기업들이 빠르게 진출하고 있고, 실리콘밸리 인구밀도가 높은 스타트업 기업들도 자체 AI 캠프를 꾸리고 있다.

Shi Qi의 관찰에 따르면 많은 실리콘밸리 스타트업들이 B-end 제품 라인을 개발하고 있는데, 이는 이들 기업의 대기업 사장들의 과거 경력과 관련이 있을 수 있습니다. Shi Qi는 "그들은 직장에서 축적한 인맥을 활용하여 비즈니스 채널을 더 빠르게 열 수 있습니다"라고 말했습니다.

현재 Shi Qi와 그의 팀은 AI를 통해 프로그래머의 작업 효율성을 향상시킬 수 있는 기업용 엔드투엔드 개발자 도구를 개발하고 있습니다. 작년 9월, Microsoft는 유사한 응용 프로그램 "copilot"도 출시했습니다. 그들은 개발자가 코드를 작성할 때 작업을 보다 효율적으로 완료하도록 프로그래밍 보조자에게 요청할 수 있는 시나리오를 실현하기를 희망합니다.

Shi Qi는 "기술 효율성을 높이는 것은 미국의 많은 스타트업 기업의 경쟁 방향이며, 엔드 투 엔드는 자동화된 워크플로를 만드는 것을 의미합니다."라고 말했습니다. 전체 프로세스는 AI에 의해 완벽하게 구현되며, 고객은 최종 생성된 결과가 기대에 부합하는지 여부만 주의하면 됩니다. Shi Qi는 "코너에서 추월하려면 이러한 대기업과의 차별화된 경쟁에 대해 더 많이 생각해야 합니다."라고 말했습니다.

그러나 일부 기술적인 문제는 여전히 실리콘 밸리의 엔지니어들에게 직면하고 있습니다. Shiqi의 견해에 따르면 제품 정확도를 높이는 것은 사용자 시나리오마다 정확도 표준이 다르기 때문에 시급히 돌파해야 할 기술적 포인트입니다.

사용자의 정서적 교감에 초점을 맞춘 C-end 제품의 경우 정확도는 70%면 충분할 수 있습니다. 그러나 기업 수준의 요구 사항에 대해서는 80%가 그들이 추구하는 목표입니다. 이는 또한 모델 교육을 위해 보다 정확한 지식 기반 데이터를 찾도록 강요합니다.

경쟁을 하기 위해서는 돈을 태우는 것이 불가피합니다. Shi Qi 회사의 경우 회사에 서비스를 제공할 때마다 소규모 프로젝트라도 월간 추론 비용이 수천 달러에 이릅니다. "개발도상국에서 이러한 단일 프로젝트 비용은 정규 알고리즘 엔지니어의 월급과 동일합니다."

높은 비용 문제에 직면한 Shi Qi는 회사가 아직 수익성을 달성하지 못했지만 최근 많은 규모의 회사가 서비스 계약을 체결했으며 1년 안에 수익성을 달성할 것으로 기대하고 있다고 솔직하게 밝혔습니다. Shi Qi는 “적어도 돈을 지불하는 것은 긍정적인 신호입니다.”라고 말했습니다.

해고, 기업가 정신, 그리고 중국으로의 복귀: 실리콘밸리의 3인방

실리콘밸리지수(Silicon Valley Index) 통계에 따르면, 2019년부터 2023년까지 실리콘밸리와 샌프란시스코 지역에서 약 3,000개에 가까운 스타트업이 탄생해 역대 최고치를 기록했다. 그중에서도 중국 CEO들의 이름을 많이 볼 수 있다. 현재 중국에서 설립된 AI 기업 4개(Scale AI, Cognition AI, Imbue, Cresta)가 총 가치 180억 달러가 넘는 유니콘 대열에 합류했습니다.

실리콘 밸리에서는 기업가의 부에 대한 신화가 부족했던 적이 없었지만, 치열한 경쟁에 직면하면 기업가 정신은 위험을 의미하기도 합니다. Qin Tian의 친구 그룹에는 여전히 큰 공장을 떠나 자신의 사업을 시작하는 소수의 중국 엔지니어가 있으며 더 많은 사람들이 여전히 기다리고 지켜보고 있습니다.

동시에 실리콘 밸리는 AI가 자본 시장에 새로운 열광의 물결을 촉발했음에도 불구하고 지난 2년 동안 지속적인 해고의 물결을 경험했습니다.

실리콘밸리에서 일하는 아리아는 'AI 광년'의 저자에게 이번 정리해고 사태로 주변의 많은 중국인 동료들이 피해를 입었다고 밝혔다. 그녀에 따르면 해고된 엔지니어들은 주로 기본적인 코드 작성이나 디버깅 및 기타 디버깅 작업에 종사하고 있습니다. 분명히 이는 AI로 쉽게 대체될 수 있는 직업이다.

고용 추적기 Layoffs.fyi의 추정에 따르면 2022년 초부터 400,000개 이상의 기술직 일자리가 해고되었습니다. 또 다른 데이터는 2022년에서 2023년 사이에 미국 기술 기업의 전 세계 해고자 수가 50만명을 초과할 것이라는 점입니다. 이는 2008년 금융위기 이후 기술업계 최대 규모의 정리해고다.

Qin Tian은 또한 2019년보다 2024년에 실리콘밸리의 취업 기회가 훨씬 줄어들 것이라고 분명히 느꼈습니다.

지난해 말 미국 물가상승률은 한때 연평균 3% 미만으로, 2023년 초 6%에 비해 거의 절반 수준으로 떨어졌다. 실리콘밸리 고용분석업체 CGC는 물가상승률이 떨어지면 기술기업이 가격을 인상하기 어렵고, 가격 인상을 통한 실적 개선도 불가능해 정리해고가 지출을 통제할 수 있는 가장 직접적인 선택이 될 것이라고 설명했다.

“구글에서 해고된 중국인 엔지니어가 인터뷰를 위해 우리 회사에 온 적이 있다”고 시치는 <AI 라이트이어>의 작가에게 말했지만, 그의 회사는 결국 그를 채용하지 않았다. 실리콘밸리의 친티앤(Qin Tian)에 따르면 3년 정도 일한 AI 알고리즘 연구 엔지니어의 평균 연봉은 약 45만 달러로 많은 스타트업 기업에게는 상당한 비용이다.

Qin Tian은 "해고의 물결은 기업가의 꿈을 갖고 있는 많은 중국인들이 행동을 취하는 것을 의욕적으로 꺾고 있습니다"라고 말했습니다.

반면 엄격한 비자 규정으로 인해 '선택의 자유'도 부족하다. 미국 이민 규정에 따르면 OPT 인턴십 비자나 H-1B 취업 비자를 소지한 실업자는 영주권을 받기 전 60일 또는 90일 이내에 새로운 일자리를 찾아야 하며 그렇지 않으면 본국으로 추방될 위험이 있습니다. 국가.

벤처가 실패하면 실업으로 인해 실리콘 밸리에 남지 못할 수도 있습니다. 아리아는 지금은 AI 사업을 시작하기에 좋은 시기가 아니라고 생각한다. 많은 중국 AI 기업이 직면한 상황과 마찬가지로 실리콘밸리에서도 “AI 제품의 좋은 상용화를 어떻게 달성할 것인가는 여전히 문제”이다.

바다 건너 중국에서는 AI에 대한 열기가 이제 막 정점에 이른 것 같습니다. 얼마 전 상하이에서 세계인공지능회의(World Artificial Intelligence Conference)가 막을 내렸습니다. 외국에 있고 업무 에너지가 제한되어 있는 Qin Tian은 국내 AI 산업 발전의 새로운 발전에 덜 관심을 기울이고 있지만 국내 학자들은 AI 알고리즘 연구에서 이미 매우 발전했다고 믿습니다.

세계 최대 오픈소스 대형 모델 커뮤니티인 허깅페이스(Hugging Face)가 발표한 세계 오픈소스 모델 순위에서는 한때 중국 출신의 수많은 오픈소스 모델이 1위를 차지한 바 있다.

그러나 Qin Tian은 단기적으로 개발을 위해 중국으로 돌아갈 계획이 없으며, 대형 모델 훈련에는 컴퓨팅 능력이 중요하며, 고급 컴퓨팅 능력의 부족은 항상 중국 AI 기업이 해결해야 할 문제라고 믿습니다. 해결하다.

2022년 8월, Nvidia는 미국으로부터 A100 및 H100 칩의 중국 수출을 중단하라는 통지를 받았습니다.

올해 7월 17일 블룸버그는 바이든 행정부가 미국산 기술을 사용한 외국 제품에 대한 통제를 허용하는 강화된 규제 도입 여부를 검토하고 있다고 보도했다. 이는 칩 제조 기계를 업계에 중요하게 만드는 일본의 Tokyo Electron 및 ASML과 같은 회사의 중국 사업을 대상으로 할 것입니다.

지정학적 요인으로 인해 실리콘 밸리의 많은 AI 기술 인재들이 중국으로 돌아온 후 고용 발전에 대해 의구심을 갖게 되었습니다.

“취업경쟁이 치열해도 실리콘밸리 진학을 포기할 수는 없다.” 스탠포드대 석사과정 자오밍 씨는 미국 AI 석사과정생 중 상당수가 미국 유학을 고려하고 있다고 저자에게 한탄했다. 첫 번째 선택으로. 이러한 이유로 많은 학생들이 "luma"와 같은 활동 플랫폼에서 최신 산업 교류 활동을 따르게 될 것입니다. 그가 보기에 소셜 네트워킹을 통한 취업은 현재 실리콘밸리에서 가장 현실적인 지름길이다.

올해 5월 Yabuli 포럼에서 Jinshajiang Venture Capital의 전무 이사이자 파트너인 Ding Jian은 과거에는 실리콘 밸리 AI 대학원생의 70% 이상이 중국으로 돌아갈 수 있었지만 지금은 거의 귀국할 수 없다고 말했습니다.

Zhao Ming은 "영주권을 보장할 수 없더라도 실리콘 밸리에서 일한 경험이 있다는 것은 확실히 나쁜 것이 아닙니다"라고 말했습니다.

(Zhao Ming, Qin Tian, ​​Zhang Yu Shiqi는 모두 가명입니다)