Cara Download dan Install Windows AI Foundry Secara Lokal

 

Windows AI Foundry adalah platform yang dirancang untuk membantu pengembang membangun dan menerapkan model AI secara efisien pada perangkat Windows. Anda bahkan dapat mengintegrasikannya ke dalam alur kerja dan aplikasi anda melalui CLI, SDK, dan REST API yang intuitif. Dalam artikel ini, saya akan membahas tentang AI Foundry dan melihat cara mendownload dan menginstall Windows AI Foundry secara lokal.

Apa itu Microsoft AI Foundry?

Foundry Local adalah tool AI pada perangkat yang menjalankan model langsung di hardware anda, meningkatkan privasi dan mengurangi biaya dengan menghilangkan layanan cloud. Ini terintegrasi secara mulus dengan alur kerja yang ada melalui CLI, SDK atau REST API yang mudah digunakan, memungkinkan penyesuaian yang fleksibel dengan model preset dan kustom. Memproses data secara lokal menjaga keamanan informasi sensitif dan menurunkan biaya berulang. Dirancang untuk kesederhanaan, system ini dapat dengan mudah diskalakan ke Azure AI Foundry, memfasilitasi transisi yang lancar ke penerapan cloud tanpa komitmen di muka.

Solusi ini sesuai dengan skenario yang memerlukan privasi data, fungsionalitas offline, atau respons AI berlatensi rendah, seperti aplikasi real-time. Ini ideal untuk menghemat biaya cloud, bereksperimen dengan model secara lokal, atau beroperasi di lingkungan yang tidak terhubung. Foundry Local bekerja pada infrastruktur yang sudah ada, sehingga menghilangkan kebutuhan akan langganan Azure, menjadikan AI mudah diakses sekaligus mempertahankan kontrol atas hardware dan data. Kemampuan adaptasinya mendukung berbagai kebutuhan, mulai dari pemrosesan yang aman hingga penskalaan yang hemat biaya, tanpa bergantung pada konektivitas internet atau layanan eksternal.

Download Windows AI Foundry Secara Lokal

Jika anda ingin mendownload Windows AI Foundry secara lokal, maka anda harus mengikuti langkah-langkah yang dijelaskan dibawah ini. Mari kita bahas ini secara terperinci.

1. Memenuhi Persyaratan System

Sama seperti utilitas lainnya, AI Foundry mengharuskan anda memenuhi persyaratan hardware tertentu sebelum menginstallnya di komputer anda. Saya telah mencantumkan persyaratan system dibawah ini. Pertama, periksa apakah system anda memiliki kemampuan untuk menggunakan tool tersebut atau tidak.

• OS: Windows 10 (x64), Windows 11 (x64/ARM), macOS.

• Memory: 8 GB atau lebih

• Ruang yang Tersedia: 3 GB

• Akselerasi (opsional): GPU NVIDIA (seri 2.000 atau lebih baru), GPU AMD (seri 6.000 atau lebih baru), Qualcomm Snapdragon X Elite (memory 8 GB atau lebih), atau Apple Silicon.

Setelah anda mengetahui bahwa system anda dapat menangani Foundry AI, lanjutkan ke langkah berikutnya.

2. Install Foundry

Sekarang anda tahu komputer anda dapat menangani Foundry dan oleh karena itu anda akan melanjutkan dengan menginstall modulnya. Untuk melakukannya, ikuti langkah-langkah berikut ini.

• Anda perlu membuka Terminal Windows. Jika anda ingin menginstall Foundry untuk semua pengguna, anda harus membuka Terminal Windows dengan hak administrator.

• Setelah itu, masukan perintah berikut ini dan tekan Enter untuk menjalankannya.

winget install Microsoft.FoundryLocal

• Anda akan diminta untuk menyetujui perjanjian; tekan Y untuk mengkonfirmasi. Tunggu beberapa menit saat komputer anda menginstall modul.

Alternatifnya, anda bahkan dapat mengunjungi github.com, kemudian memperluas Assets. Selanjutnya, klik hyperlink untuk mendownload media instalasi atau file ZIP dan kemudian menginstallnya di komputer anda.

Catatan: Perintah yang disebutkan di atas adalah untuk mesin Windows; jika anda menggunakan macOS, maka anda perlu menjalankan dua perintah berikut ini.

brew tap microsoft/foundrylocal

brew install foundrylocal

3. Jalankan Model Anda

Setelah menginstall modul AI Foundry, anda perlu menginstall model sederhana – phi-3.5-mini. Model ini ringan dan efisien. Model ini dibuat untuk perangkat lokal dan menangani tugas teks seperti menjawab pertanyaan, membuat konten dan meringkas informasi. Pengguna biasanya menggunakan model ini untuk menguji atau mencoba fitur AI dalam pengaturan lokal. Model ini berfungsi dengan baik dalam situasi offline dan merupakan pilihan yang baik jika sensitivitas data penting. Desainnya yang ringkas memungkinkan pengaturan cepat dan mengurangi beban pada hardware anda.

Untuk menginstallnya, jalankan perintah berikut di Terminal Windows.

foundry model run phi-3.5-mini

Sekarang, anda dapat mengajukan pertanyaan sederhana, seperti Mengapa kita perlu makan? di CLI itu sendiri dan biarkan CLI menjawabnya.

4. Perintah yang Berguna

Foundry Local CLI mengatur perintah ke dalam tiga kategori untuk manajemen yang efisien: Model (menjalankan, mengelola model), Service (mengendalikan layanan lokal) dan Cache (menangani model yang diunduh). Gunakan foundry –help untuk melihat semua perintah, dan tambahkan –help ke kategori manapun (misalnya, foundry model –help) untuk panduan khusus. Struktur ini menyederhanakan alur kerja, memungkinkan akses cepat ke tugas-tugas seperti memulai model, menyesuaikan service atau menghapus file yang di-cache, semuanya dengan tetap menjaga kejelasan dan kemudahan penggunaan. Saya telah menjelaskan perintah-perintah yang berguna dibawah ini.

• Untuk membuat daftar semua perintah: –help

• Untuk memulai, menghentikan atau mengkonfigurasi model: foundry model --help

• Untuk merestart, mengupdate atau memantau service lokal: foundry service –help

• Untuk melihat, menghapus atau mengelola model yang didownload: foundry cache –help

Semoga dengan bantuan artikel ini anda dapat menginstall dan menggunakan AI Foundry secara lokal.

Apakah Azure AI Foundry gratis?

Ya, Azure AI Foundry menawarkan akses gratis selama fase preview. Namun, layanan Azure AI atau sumber daya cloud apapun yang digunakan dalam Foundry ditagih secara terpisah. Harga bergantung pada model AI spesifik, penyimpanan dan daya komputasi yang digunakan. Untuk detail selengkapnya, pengguna harus memeriksa halaman harga Azure AI Foundry.

Bagaimana cara menginstall Foundry di Windows?

Untuk menginstall Foundry di Windows, anda perlu memastikan bahwa anda memenuhi persyaratan system yang disebutkan sebelumnya. Jika komputer anda kompatibel, jalankan perintah – winget install Microsoft.FoundryLocal. Ini akan memakan waktu, tergantung pada kecepatan internet anda, jadi biarkan ia menginstal.

Sekian tutorial saya kali ini. Semoga bermanfaat dan membantu anda dalam mendownload dan menginstall Windows AI Foundry secara Lokal. Jangan lupa tinggalkan komentar anda dibawah ini untuk berbagi pemikiran serta pengalaman anda dalam mengikuti tutorial ini. Terimakasih dan GBU. STAY SAFE & KEEP HEALTHY!!