Masalah Kemanan AI semakin menonjol seiring kemajuan model Manus
Belakangan ini, model Manus mencetak rekor baru dalam pengujian benchmark GAIA, dengan kinerjanya melampaui model bahasa besar sekelasnya. Ini berarti Manus dapat secara mandiri menyelesaikan tugas-tugas kompleks seperti negosiasi bisnis lintas negara, yang melibatkan analisis ketentuan kontrak, perumusan strategi, dan pengembangan rencana. Keunggulan Manus terletak pada pemecahan tujuan dinamis, penalaran lintas moda, serta kemampuan pembelajaran yang ditingkatkan oleh memori. Ia dapat memecah tugas kompleks menjadi beberapa sub-tugas yang dapat dilaksanakan, sambil menangani berbagai jenis data, dan melalui pembelajaran penguatan terus-menerus meningkatkan efisiensi pengambilan keputusan serta mengurangi tingkat kesalahan.
Kemajuan inovatif Manus sekali lagi memicu diskusi di industri tentang jalur perkembangan AI: Apakah masa depan menuju ke kecerdasan buatan umum (AGI) atau sistem multi-agen (MAS)? Kedua jalur ini mencerminkan masalah perimbangan antara efisiensi dan keamanan dalam perkembangan AI. Jalur AGI mengejar peningkatan kemampuan menyeluruh dari satu agen cerdas, sementara jalur MAS menekankan kolaborasi antara beberapa agen cerdas yang memiliki keahlian khusus.
Namun, seiring dengan semakin pintarnya sistem AI, risiko potensialnya juga meningkat. Misalnya, dalam konteks medis, AI mungkin perlu mengakses data genetik sensitif pasien; dalam negosiasi keuangan, mungkin melibatkan informasi keuangan perusahaan yang tidak dipublikasikan. Selain itu, sistem AI juga dapat memiliki bias algoritma, seperti memberikan saran gaji yang tidak adil terhadap kelompok tertentu dalam proses perekrutan. Yang lebih serius, sistem AI dapat menjadi sasaran serangan adversarial, seperti mengganggu penilaian AI melalui frekuensi suara tertentu.
Menghadapi tantangan ini, industri sedang mengeksplorasi berbagai solusi keamanan. Model keamanan zero trust mengharuskan verifikasi ketat untuk setiap permintaan akses, identitas terdesentralisasi (DID) menyediakan cara pengenalan identitas yang tidak bergantung pada pendaftaran terpusat, sementara enkripsi homomorfik penuh (FHE) memungkinkan perhitungan data dalam keadaan terenkripsi.
Enkripsi homomorfik sebagai teknologi yang muncul, diharapkan menjadi alat kunci untuk menyelesaikan masalah keamanan di era AI. Ini dapat melindungi privasi pengguna di tingkat data, mewujudkan "pelatihan model terenkripsi" di tingkat algoritma, dan menggunakan enkripsi ambang untuk melindungi keamanan komunikasi dalam kolaborasi multi-agen.
Meskipun teknologi keamanan Web3 mungkin terasa jauh bagi pengguna biasa, itu sangat penting untuk melindungi kepentingan pengguna. Proyek identitas terdesentralisasi awal uPort dan proyek zero trust NKN meskipun tidak berhasil mendapatkan perhatian luas, proyek FHE yang muncul seperti Mind Network sedang bekerja sama dengan beberapa perusahaan terkenal, diharapkan dapat mendorong penerapan dan perkembangan teknologi ini.
Seiring dengan kemajuan teknologi AI yang semakin mendekati tingkat kecerdasan manusia, membangun sistem pertahanan yang kuat menjadi semakin penting. Enkripsi homomorfik penuh tidak hanya dapat mengatasi tantangan keamanan saat ini, tetapi juga meletakkan dasar untuk era AI yang lebih kuat di masa depan. Dalam perjalanan menuju AGI, FHE mungkin menjadi teknologi kunci untuk memastikan pengembangan AI yang aman.
Halaman ini mungkin berisi konten pihak ketiga, yang disediakan untuk tujuan informasi saja (bukan pernyataan/jaminan) dan tidak boleh dianggap sebagai dukungan terhadap pandangannya oleh Gate, atau sebagai nasihat keuangan atau profesional. Lihat Penafian untuk detailnya.
Kemanan AI tantangan baru: fully homomorphic encryption mungkin menjadi kunci perlindungan model canggih seperti Manus
Masalah Kemanan AI semakin menonjol seiring kemajuan model Manus
Belakangan ini, model Manus mencetak rekor baru dalam pengujian benchmark GAIA, dengan kinerjanya melampaui model bahasa besar sekelasnya. Ini berarti Manus dapat secara mandiri menyelesaikan tugas-tugas kompleks seperti negosiasi bisnis lintas negara, yang melibatkan analisis ketentuan kontrak, perumusan strategi, dan pengembangan rencana. Keunggulan Manus terletak pada pemecahan tujuan dinamis, penalaran lintas moda, serta kemampuan pembelajaran yang ditingkatkan oleh memori. Ia dapat memecah tugas kompleks menjadi beberapa sub-tugas yang dapat dilaksanakan, sambil menangani berbagai jenis data, dan melalui pembelajaran penguatan terus-menerus meningkatkan efisiensi pengambilan keputusan serta mengurangi tingkat kesalahan.
Kemajuan inovatif Manus sekali lagi memicu diskusi di industri tentang jalur perkembangan AI: Apakah masa depan menuju ke kecerdasan buatan umum (AGI) atau sistem multi-agen (MAS)? Kedua jalur ini mencerminkan masalah perimbangan antara efisiensi dan keamanan dalam perkembangan AI. Jalur AGI mengejar peningkatan kemampuan menyeluruh dari satu agen cerdas, sementara jalur MAS menekankan kolaborasi antara beberapa agen cerdas yang memiliki keahlian khusus.
Namun, seiring dengan semakin pintarnya sistem AI, risiko potensialnya juga meningkat. Misalnya, dalam konteks medis, AI mungkin perlu mengakses data genetik sensitif pasien; dalam negosiasi keuangan, mungkin melibatkan informasi keuangan perusahaan yang tidak dipublikasikan. Selain itu, sistem AI juga dapat memiliki bias algoritma, seperti memberikan saran gaji yang tidak adil terhadap kelompok tertentu dalam proses perekrutan. Yang lebih serius, sistem AI dapat menjadi sasaran serangan adversarial, seperti mengganggu penilaian AI melalui frekuensi suara tertentu.
Menghadapi tantangan ini, industri sedang mengeksplorasi berbagai solusi keamanan. Model keamanan zero trust mengharuskan verifikasi ketat untuk setiap permintaan akses, identitas terdesentralisasi (DID) menyediakan cara pengenalan identitas yang tidak bergantung pada pendaftaran terpusat, sementara enkripsi homomorfik penuh (FHE) memungkinkan perhitungan data dalam keadaan terenkripsi.
Enkripsi homomorfik sebagai teknologi yang muncul, diharapkan menjadi alat kunci untuk menyelesaikan masalah keamanan di era AI. Ini dapat melindungi privasi pengguna di tingkat data, mewujudkan "pelatihan model terenkripsi" di tingkat algoritma, dan menggunakan enkripsi ambang untuk melindungi keamanan komunikasi dalam kolaborasi multi-agen.
Meskipun teknologi keamanan Web3 mungkin terasa jauh bagi pengguna biasa, itu sangat penting untuk melindungi kepentingan pengguna. Proyek identitas terdesentralisasi awal uPort dan proyek zero trust NKN meskipun tidak berhasil mendapatkan perhatian luas, proyek FHE yang muncul seperti Mind Network sedang bekerja sama dengan beberapa perusahaan terkenal, diharapkan dapat mendorong penerapan dan perkembangan teknologi ini.
Seiring dengan kemajuan teknologi AI yang semakin mendekati tingkat kecerdasan manusia, membangun sistem pertahanan yang kuat menjadi semakin penting. Enkripsi homomorfik penuh tidak hanya dapat mengatasi tantangan keamanan saat ini, tetapi juga meletakkan dasar untuk era AI yang lebih kuat di masa depan. Dalam perjalanan menuju AGI, FHE mungkin menjadi teknologi kunci untuk memastikan pengembangan AI yang aman.