berita

한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina

Laporan Jantung Mesin

Departemen Editorial Jantung Mesin

Saat ini, ada berita pasar bahwa Zhou Chang (nama panggilan: Zhong Huang), tulang punggung teknis Alibaba Tongyi Qianwen, telah mengundurkan diri untuk memulai bisnis. Menurut berita Machine Heart, Zhou Chang memang akan mengundurkan diri, namun tanggal akhir pengunduran dirinya belum tiba.

Zhou Chang adalah tokoh penting dalam model besar Tongyi Qianwen. Dari tahun 2020 hingga 2021, ia memimpin tim untuk merancang dan mengimplementasikan model pra-pelatihan multimodal berskala sangat besar M6, membuat terobosan dalam jumlah parameter dan mode pelatihan rendah karbon. Tahun ini, model open source Tongyi Qianwen Owen1.5-72B menjadi model open source pertama dalam daftar performa model HuggingFace (ChatArena), dan juga merupakan salah satu seri model yang umum digunakan di komunitas open source.

Sebelumnya, Zhou Chang memainkan peran penting dalam berbagai proyek selama waktunya di DAMO Academy, seperti pengembangan algoritma representasi grafik produk berskala sangat besar APP, kerangka representasi pengguna ATRank, dan rangkaian algoritma penarikan vektor berbasis CLRec pada diri sendiri. -pembelajaran kontrastif yang diawasi.

Zhou Chang lulus dari Universitas Fudan pada tahun 2012 dengan gelar sarjana di bidang ilmu dan teknologi komputer, dan pada tahun 2017 dengan gelar doktor di bidang perangkat lunak komputer dan teori dari Universitas Peking. Ia bergabung dengan Alibaba melalui rekrutmen sekolah dan telah bekerja di Alibaba selama lebih dari delapan tahun .

Ia berspesialisasi dalam pembelajaran mendalam, penambangan grafik, dan komputasi terdistribusi. Ia telah menerbitkan lebih dari 30 artikel di konferensi internasional terkemuka di bidang pembelajaran mesin, penambangan data, dan basis data, serta menjabat sebagai peninjau untuk konferensi akademik seperti NeurIPS/ICML/KDD. /WWW. Hasil penelitian tim Zhou Chang telah memenangkan penghargaan dan penghargaan seperti First Prize for Scientific and Technological Progress Award dari China Electronics Society dan Tim Inovasi dan Kewirausahaan Terkemuka di Hangzhou.

Menurut Workplace Bonus, evaluasi orang dalam Alibaba terhadap Zhou Chang adalah: “Dia benar-benar ingin membuat model besar yang lebih bertujuan umum, bukan vertikal pada satu bidang dan skenario.”

Saat ini, Zhou Chang sendiri belum menanggapi rencana selanjutnya.

Tentang Tongyi Qianwen

Tongyi Qianwen adalah model bahasa berskala sangat besar yang dikembangkan secara independen oleh Laboratorium Tongyi Alibaba. Laboratorium Tongyi adalah laboratorium pemrosesan bahasa alami di bawah Grup Alibaba. Laboratorium ini didedikasikan untuk meneliti dan mengembangkan teknologi pemrosesan bahasa alami umum untuk setiap unit bisnis di bawah grup menyediakan layanan pemrosesan bahasa yang cerdas. Kepala Laboratorium Alibaba Tongyi saat ini adalah Zhou Jingren.

Pada tanggal 7 April 2023, Tongyi Qianwen memulai pengujian undangan.

Pada 11 April 2023, seluruh produk Alibaba akan terhubung dengan model besar Tongyi Qianwen untuk transformasi komprehensif di masa depan.

Pada bulan Agustus 2023, Tongyi Qianwen membuat model qwen-7b menjadi sumber terbuka.

Pada bulan September 2023, Tongyi Qianwen secara resmi dibuka untuk umum; pada tanggal 25 di bulan yang sama, Alibaba Cloud mengumumkan bahwa model parameter open source Tongyi Qianwen 14 miliar Qwen-14B dan model percakapannya Qwen-14B-Chat gratis untuk komersial. menggunakan.

Pada tanggal 31 Oktober 2023, Tongyi Qianwen 2.0 secara resmi ditingkatkan dan dirilis, dan Aplikasi Tongyi Qianwen juga dirilis sesuai dengan itu.

Pada tanggal 1 Desember 2023, Alibaba Cloud melakukan open source model parameter Tongyi Qianwen 72 miliar Qwen-72B, model parameter 1,8 miliar Qwen-1.8B, dan model audio besar Qwen-Audio. Sejauh ini, Tongyi Qianwen telah mencapai open source "ukuran penuh, modalitas penuh", dengan total 4 model bahasa besar dengan 1,8 miliar, 7 miliar, 14 miliar, dan 72 miliar parameter open source, serta dua multi- mode modal: pemahaman visual dan pemahaman audio.

Pada tanggal 4 Januari 2024, Aplikasi Tongyi Qianwen meluncurkan fungsi "Tongyi Dance King".

Pada tanggal 26 Januari 2024, model pemahaman visual Tongyi Qianwen Qwen-VL meluncurkan versi Max.

Pada tanggal 22 Maret 2024, fungsi pemrosesan dokumen panjang 10 juta kata akan dibuka untuk semua orang secara gratis.

Pada tanggal 29 Maret 2024, model MoE pertama Qwen1.5-MoE-A2.7B bersumber terbuka.

Pada tanggal 3 April 2024, Tongyi Lingma resmi diluncurkan di Aplikasi Tongyi Qianwen dan terbuka untuk umum secara gratis.

Pada tanggal 7 April 2024, model 32 miliar parameter Qwen1.5-32B menjadi sumber terbuka.

Pada tanggal 28 April 2024, model parameter tingkat 100 miliar Qwen1.5-110B diluncurkan.

Pada tanggal 9 Mei 2024, model besar Tongyi Qianwen 2.5 dirilis dan diganti namanya menjadi Tongyi.

Pada Mei 2024, Tongyi Qianwen telah menyediakan 8 model industri utama, yang melibatkan pemrograman, membaca, pemrosesan audio dan video, pembuatan karakter, keuangan, layanan pelanggan, kesehatan, hukum, dan bidang lainnya, yang dapat diterapkan pada penulisan kode, membaca kode, dan memeriksa BUG, ​​mengoptimalkan kode, mendapatkan umpan teks panjang dan ikhtisar, memproses konten audio dan video, membuat karakter yang dipersonalisasi, menafsirkan laporan keuangan, menganalisis peristiwa industri keuangan dan skenario lainnya.