AMD hari ini mengumumkan aplikasi sumber terbuka baharu yang dipanggil GAIA, direka untuk menjadikan model bahasa besar (LLM) berjalan dengan lebih cekap di bahagian tempatan. Pada masa ini tersedia untuk platform Windows, GAIA ialah aplikasi AI generatif yang direka untuk membolehkan pengguna melaksanakan pengiraan peribadi setempat LLM pada PC Windows, dan telah dioptimumkan untuk pemproses siri Ryzen AI 300. Aplikasi ini meningkatkan prestasi tugas AI dengan memanfaatkan unit pemprosesan rangkaian saraf (NPU) dan menyokong penggunaan hibrid LLM terkuantisasi.
Dilaporkan bahawa GAIA dibangunkan berdasarkan Lemonade SDK ONNX TurnkeyML, dan menggunakan teknologi Retrieval Enhanced Generation (RAG), yang boleh menyokong model arus perdana termasuk Llama dan Phi. Terdapat empat modul berfungsi utama: Chaty chatbot, pakar carian video Klip, penjana jenaka Joker dan alat ujian Simple Prompt.
Projek GAIA terdiri daripada empat modul berfungsi, setiap satu dioptimumkan untuk senario aplikasi tertentu:
AMD menawarkan kedua-dua pilihan pemasangan standard dan hibrid untuk GAIA. Versi biasa serasi dengan mana-mana peranti Windows, yang bermaksud bahawa tidak kira jenis komputer yang anda gunakan, anda boleh memasang dan menggunakan GAIA dengan mudah. Versi hibrid dioptimumkan untuk siri Ryzen AI 300, yang boleh memanfaatkan sepenuhnya kuasa pengkomputeran AI pemproses AMD untuk memberikan prestasi dan pengalaman yang lebih baik.
Ciri penting GAIA ialah proses penyetempatan. Semua data diproses pada peranti tempatan dan tidak perlu dimuat naik ke pelayan pengkomputeran awan. Ini bukan sahaja memastikan privasi data pengguna, tetapi juga mengurangkan kependaman tindak balas. Kependaman tindak balas GAIA dikurangkan kepada milisaat, membolehkan pengguna menikmati pengalaman AI serta-merta dan lancar. Di samping itu, GAIA menyokong pelaksanaan luar talian, yang berfungsi walaupun tiada sambungan rangkaian.
Projek GAIA dilesenkan di bawah lesen sumber terbuka MIT, yang bermaksud bahawa sesiapa sahaja boleh menggunakan, mengubah suai dan mengedarkan kod program GAIA secara percuma. Model terbuka ini akan membantu menarik lebih ramai pembangun untuk mengambil bahagian dalam pembangunan GAIA dan bersama-sama mempromosikan pembangunan GAIA. Pada masa hadapan, pasukan GAIA merancang untuk mengembangkan GAIA kepada sokongan berbilang platform, supaya lebih ramai pengguna boleh mengalami kemudahan dan kecerdasan GAIA.