소식

GitHub의 1억 명 이상의 개발자가 세계 최고의 대형 모델에 직접 액세스하여 AI 애플리케이션을 구축할 수 있습니다.

2024-08-05

한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina

기계 심장 보고서

편집자: Du Wei, Jiaqi

GitHub가 출시한 새로운 기능인 'GitHub 모델'은 AI 엔지니어 시대의 도래를 가속화할 것으로 예상됩니다.

무엇? 친숙한 코드 호스팅 플랫폼 GitHub가 다시 진화했습니다! 플랫폼은 플레이그로이드에도 대규모 AI 모델을 제공하기 시작했다.

Microsoft의 Phi-3, OpenAI의 GPT-4o, Meta의 Llama 3.1, Cohere의 Command R+ 및 Mistral AI의 Mistral Large를 포함하여 업계에서 널리 사용되는 모든 대형 모델을 시험적으로 대화형 샌드박스에서 사용할 수 있습니다.



앞으로 몇 달 안에 Github에는 더 많은 언어, 시각적 모델 및 기타 유형의 모델이 추가될 예정입니다.



즉, 이 사진 속 모든 모델은 무료로 구매가 가능하다는 것입니다! 다양한 대형 모델을 무료로 테스트할 수 있는 새로운 방법과 같습니다!

뿐만 아니라 개발자는 적절한 모델을 자신의 AI 프로젝트로 쉽게 가져올 수도 있습니다. Github는 Codespaces 및 VS Code 개발 환경에 모델을 직접 배치할 수 있는 빠른 채널을 만들어 AI 모델 배포에 대한 임계값을 낮췄습니다.



이것은 GitHub가 오늘 출시한 "GitHub 모델" 기능입니다!

개발자의 경우 올바른 도구와 교육만 있다면 누구나 AI 엔지니어가 될 수 있습니다. 개발자는 모델을 선택하고 GitHub Codespaces에서 코드를 작성한 다음 Azure를 통해 프로덕션에 배포하여 "원스톱" 서비스를 제공합니다.

특히 GitHub CLI에서 GitHub 모델 명령을 호출하고 일련의 JSON 파일을 통해 GitHub Actions에서 이를 사용할 수 있습니다. 또한 GitHub 모델을 사용하여 전체 애플리케이션 개발 주기를 포괄하는 GitHub Copilot 확장을 구축할 수도 있습니다.

프로젝트가 온라인 단계에 진입하면 Github는 Azure AI와의 원활한 통합도 제공하며, Azure를 통해 Github의 ID 인증을 구독할 수 있으므로 AI 애플리케이션을 프로덕션 환경에 배포하기 위한 임계값이 낮아집니다.

이제 Github를 통해 전 세계 25개 이상의 Azure 지역에 AI 애플리케이션을 배포하고 Azure의 엔터프라이즈 수준 보안 보호를 받을 수 있습니다.

개인 정보 보호 및 보안에 대한 GitHub 및 Microsoft의 지속적인 노력에 따라 GitHub 모델의 모든 팁이나 출력은 모델 공급자와 공유되지 않으며 모델을 교육하거나 개선하는 데 사용되지 않습니다.

물론 "GitHub 모델"을 시험해 보는 것이 완전히 제한되지는 않습니다. 개별 사용자의 액세스 횟수는 하루 150회, 분당 15회로 제한됩니다. 각 요청은 최대 8,000개의 토큰을 처리하고 최대 4,000개의 토큰을 출력할 수 있습니다.



이와 관련하여 GitHub CEO인 Thomas Dohmke는 이 기능의 출시는 오픈 소스 협업을 통한 AI 생성에서 AI의 힘으로 소프트웨어 생성, 그리고 이제는 GitHub 모델을 사용하여 AI 엔지니어의 부상을 촉진하는 GitHub의 또 다른 변화를 의미한다고 말했습니다.



그리고 OSS 저장소, Copilot Extensions 및 GitHub 모델 기능을 기반으로 GitHub는 플랫폼에 최대한 많은 파트너를 도입하기를 희망합니다.



일부 개발자는 GitHub 코드 공간에서 직접 모델을 실행하는 사례를 보여주었습니다. 아무것도 설치할 필요가 없으며 몇 초 안에 시작할 수 있습니다.



이미지 출처: https://x.com/DanWahlin/status/1819113874689610133

Github이 "Hugging Face"가 되면 Hugging Face가 어떻게 반응할지 궁금합니다.