berita

한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina

hal-hal cerdas
Disusun oleh Chen Junda
SuntingPanken

Zhidongzhi melaporkan pada 15 Juli bahwa minggu lalu, CEO OpenAI Sam Altman mendirikan perusahaan medis dan kesehatan AI.Thrive AI Health (singkatnya Thrive) Menyebabkan kekhawatiran luas. Startup ini bertujuan untuk mengubah perilaku dan kebiasaan pasien melalui pelatih kesehatan AI untuk mengatasi krisis penyakit kronis yang menjangkiti 127 juta orang di Amerika Serikat. Startup ini juga telah menerima investasi dari wanita terkaya di Amerika Serikat.

Pelayanan kesehatan selalu menjadi isu sosial yang menjadi perhatian besar masyarakat Amerika, dan juga menjadi isu utama dalam pemilu AS tahun ini. Sistem medis yang tidak efisien dan mahal menyulitkan banyak orang Amerika untuk mendapatkan layanan medis yang efektif. Sebagai tokoh terkemuka di industri AI saat ini, Altman memilih memasuki perawatan medis AI saat ini, yang tentu saja menarik perhatian banyak orang.

Pendiri Thirve with Altman lainnya adalah Arianna Huffington, pendiri perusahaan teknologi perubahan perilaku Thrive Global. Keduanya diwawancarai oleh The Atlantic pada 11 Juli. Ungkap lebih detail tentang usaha ini.

Keduanya mengatakan Thrive akan fokus memberikan nasihat kesehatan dan menghindari pekerjaan diagnosis medis yang saat ini tidak dapat dilakukan dengan baik oleh AI. Di masa depan, informasi kesehatan dapat diintegrasikan ke dalam skenario kerja.

Namun, dihadapkan pada keraguan pewawancara, merekaMereka gagal menjelaskan dengan jelas dalam bentuk apa produk tersebut akan diimplementasikan, dan tindakan spesifik apa yang akan diambil untuk memastikan keamanan data pengguna.

Altmann juga mengatakan dalam wawancara"mungkin"Informasi dalam proses komunikasi antara manusia dan AI harus mendapatkan perlindungan klausul kerahasiaan yang serupa dengan antara pengacara dan klien, namun ia yakin hal ini harus diputuskan oleh masyarakat.

Perlu disebutkan apa yang dapat diperoleh oleh perusahaan baru Altmann, ThriveData kesehatan AI bersifat sangat pribadi dan memiliki nilai ekonomi yang signifikan. Perusahaan asuransi dapat menggunakan informasi ini untuk menyesuaikan harga polis tertentu atau memutuskan apakah akan mengganti biaya obat tertentu. Ada kebocoran informasi baru-baru ini di Amerika Serikat, yang menyebabkan terhentinya sistem medis secara luas.

1. Berfokus pada nasihat kesehatan daripada diagnosis medis, kinerja model sudah “cukup baik”

Nilai jual terbesar Thrive, sebuah produk kesehatan AI, adalah “pelatihan kesehatan AI yang sangat dipersonalisasi.” Thrive akan memberikan saran kesehatan yang dipersonalisasi dan instan kepada pengguna dengan mengumpulkan informasi tentang tidur, makanan, olahraga, stres, dan interaksi sosial pengguna, dikombinasikan dengan keahlian dalam rekam medis dan perubahan perilaku.

Altman dan Huffington percaya bahwa kesehatan AI sangat penting untuk meningkatkan sistem medis yang saat ini sedang bermasalah di Amerika Serikat. Saat ini, 90% pengeluaran sistem asuransi kesehatan AS dihabiskan untuk pengobatan penyakit kronis, dan Thrive diperkirakan akan melakukan hal yang sama. mengurangi pengeluaran ini secara signifikan.

Altman dan Huffington membandingkan teknologi ini dengan New Deal Roosevelt, dengan mengatakan bahwa "AI akan menjadi bagian dari infrastruktur medis yang lebih efisien dan terus mendukung kesehatan masyarakat dalam kehidupan sehari-hari."

Namun penerapan AI dalam industri medis dan kesehatan bukanlah hal baru. AI telah memainkan peran penting dalam rekonstruksi CT, pengembangan obat, diagnosis tambahan, dan bidang lainnya.

▲NVIDIA telah meluncurkan produk medis AI Clara (Sumber: NVIDIA)

Saat ini, aplikasi medis dan kesehatan AI terutama ditargetkan pada dokter dan personel penelitian dan pengembangan dengan pengetahuan profesional, dibandingkan pasien penyakit yang menjadi sasaran Thrive ini.Sebagian besar pasien tidak memiliki pengetahuan medis yang memadai, sehingga mereka cenderung tidak dapat membuat penilaian yang efektif atas saran kesehatan atau diagnosis medis yang diberikan oleh AI, dan sulit bagi produk AI untuk memastikan bahwa mereka tidak melakukan kesalahan.

Dalam wawancara dengan The Atlantic, Altman dan Huffington menjawab pertanyaan tentang keamanan produk. Mereka yakin performa model AI saat ini sudah cukup baikFokus hanya pada "nasihat kesehatan" daripada "diagnosis medis", dan dilatih menggunakan data tinjauan sejawat, model tersebut dapat memberikan saran yang cukup baik.

Namun, baik Huffington maupun Altman tidak dapat berkomentar mengenai bentuk produk tersebut pada akhirnya. Mereka mengatakan produk tersebut akan diluncurkan sebagai sebuah aplikasi, namun Huffington juga mengatakan produk tersebut akan tersedia dalam setiap mode yang memungkinkan dan bahkan dapat diintegrasikan ke dalam skenario kerja melalui aplikasi seperti Microsoft Teams.

2. Mengumpulkan data tidak menjadi masalah, Altman mengatakan pengguna bersedia membagikannya

Produk yang sangat dipersonalisasi ini perlu meyakinkan pengguna untuk secara aktif menyerahkan sejumlah besar informasi pribadi sehingga AI dapat memiliki informasi yang cukup untuk mengambil keputusan. Dalam sebuah wawancara dengan The Atlantic Monthly,Altman tidak berpikir ini akan menjadi tantangan besar.

Altman menceritakan bahwa salah satu alasan dia mendirikan perusahaan baru ini adalah karena banyak orang yang telah mendiagnosis masalah medis di ChatGPT, dan dia juga mendengar dari banyak orang yang mempercayai rekomendasi ChatGPT, melakukan tes yang relevan, dan menerima perawatan. Ia yakin bahwa pengguna sebenarnya sangat bersedia berbagi beberapa informasi yang sangat detail dan pribadi dengan LLM.

Seorang reporter dari The Atlantic terkejut dengan pendekatan ini karena saran medis yang diberikan oleh ChatGPT mungkin mengandung halusinasi AI dan menimbulkan ancaman bagi kesehatan pasien. Pasien yang mengandalkan informasi palsu ini juga sangat mungkin mengalami konflik dengan dokter profesional.

Reporter tersebut juga percaya bahwa jika informasi medis bocor, hal tersebut dapat sangat merugikan hak dan kepentingan pribadi pengguna. Namun, Altmann tidak tegas dalam menanggapi risiko kebocoran informasi, dan percaya bahwa masalah ini harus diserahkan kepada masyarakat untuk ditangani.

Dia mengatakan bahwa konten komunikasi antara dokter dan pasien, pengacara dan klien saat ini dilindungi oleh hukum, dan "mungkin" harus ada perlindungan serupa dalam komunikasi masyarakat dengan AI. "Mungkin masyarakat akan memutuskan apakah akan menetapkan suatu bentuk hak istimewa AI. " ". Dengan kata lain, mereka mungkin tidak secara aktif mempromosikan perlindungan serupa, sehingga menyerahkan keputusan kepada masyarakat.

Namun perlindungan data kesehatan telah mencapai tingkat yang mendesak.Baru pada bulan Februari tahun ini, Change Healthcare, raksasa teknologi kesehatan Amerika yang berafiliasi dengan grup asuransi Amerika UnitedHealth Group, mengalami serangan ransomware skala besar, menyebabkan penutupan sistem asuransi kesehatan secara besar-besaran. sepertiga orang Amerika berisiko dibocorkan.

Dan rekam jejak OpenAI dalam perlindungan data tidaklah sempurna.Pada awal tahun 2023, sistem internal OpenAI diserang oleh serangan siber, dan rekaman obrolan karyawan perusahaan mengenai diskusi tentang sistem AI tingkat lanjut bocor.

Selain itu, menurut pemberitaan media teknologi Engadget pada awal tahun 2023,ChatGPT telah mengalami kebocoran informasi yang serius.Pada saat itu, terdapat beberapa gangguan pada halaman web ChatGPT, yang menyebabkan beberapa judul percakapan pengguna muncul di kotak chat lain, dan beberapa informasi identitas pengguna serta informasi kartu bank juga bocor.

Meskipun demikian, Altman tetap meminta masyarakat untuk memberi mereka "kepercayaan" dalam wawancara ini, yang sepenuhnya bertentangan dengan pernyataannya di Bloomberg Technology Summit pada tahun 2023 ketika dia meminta semua orang untuk tidak mempercayai dia dan OpenAI.

▲ Altmann di Bloomberg Technology Summit 2023 (Sumber: Bloomberg)

Altman percaya bahwa sudah menjadi harapan umum masyarakat untuk membiarkan teknologi AI meningkatkan kesehatan mereka, dan ini adalah salah satu dari sedikit bidang penerapan di mana AI dapat digunakan untuk mengubah dunia. Dia kemudian menambahkan bahwa untuk mencapai AI guna meningkatkan kesehatan manusia,“Dibutuhkan keyakinan tertentu,” yang berarti masyarakat harus mempercayai perusahaan baru untuk melakukan pekerjaannya secara bertanggung jawab.

Dalam artikel yang ditulis bersama di Time, Altman dan Huffington menguraikan "keyakinan" ini. Mereka percaya bahwa untuk mencapai “perubahan perilaku yang didorong oleh AI” dan membalikkan tren penyakit kronis yang semakin meningkat, mereka memerlukan kepercayaan pada tiga aspek.

Di satu sisi terdapat keyakinan dari para pembuat kebijakan bahwa mereka perlu menciptakan “lingkungan peraturan yang mendorong inovasi AI.” Praktisi medis juga perlu mempercayai alat AI dan mengintegrasikan teknologi AI ke dalam praktik mereka. Terakhir, individu juga perlu mempercayai AI untuk menangani data pribadi mereka secara bertanggung jawab.Ini memang merupakan permintaan besar bagi perusahaan yang belum memiliki produk apa pun dan belum berkomitmen terhadap langkah-langkah keamanan tertentu.

Kesimpulan: Mungkin masih terlalu dini untuk menyerahkan kesehatan kepada AI, dan AI tidak boleh menjadi permainan kepercayaan

Berbicara tentang penerapan produk kesehatan AI, Altman dan Huffington menjelaskan skenario berikut dalam artikel yang mereka tulis bersama di Majalah Time: "Pelatih kesehatan AI akan memberikan saran yang sangat tepat untuk semua orang: lakukan sesi sore Ganti tiga soda dengan air dan lemon; berjalan-jalan selama 10 menit bersama anak-anak Anda setelah menjemput mereka dari sekolah pada pukul 15:15; mulailah rutinitas relaksasi Anda pada pukul 10 malam. "Pelatih kesehatan AI ini pada akhirnya akan mengubah beberapa kebiasaan buruk yang membandel. , pada akhirnya meningkatkan kesehatan manusia secara keseluruhan dan memperpanjang umur manusia.

Namun, apakah berbagai perilaku “tidak sehat” yang dilakukan masyarakat dalam hidup merupakan masalah kebiasaan pribadi atau masalah sosial yang lebih besar?Haruskah kita menyerahkan krisis penyakit kronis kepada individu dan AI untuk menyelesaikannya, atau haruskah kita melakukan pencegahan sistematis melalui penelitian dan intervensi oleh pemerintah dan institusi medis?Pertanyaan-pertanyaan ini mungkin perlu dipertimbangkan sebelum apa yang disebut infrastruktur medis AI menjadi kenyataan.

Dalam wawancara tersebut, Altman berbicara tentang bagaimana realisasi visi kesehatan AI memerlukan kepercayaan masyarakat sampai batas tertentu, namun dalam teknologi yang memiliki jangkauan luas seperti AI dan bidang yang mengancam jiwa seperti perawatan medis,Yang benar-benar kita butuhkan mungkin bukanlah permainan kepercayaan, namun teknologi yang dapat diverifikasi dan dijelaskan.

Sumber: Atlantik, Waktu