Awalnya, mari kita telaah dampak ekologis dari perkembangan ini. Sebuah penelitian yang diterbitkan di Scientific American menunjukkan bahwa pelatihan model AI besar seperti GPT-4 dan Claude memerlukan konsumsi energi yang setara dengan penerbangan jarak jauh atau penggunaan listrik rumah tangga selama bertahun-tahun. Bahkan, menurut laporan ‘Distribusi Dampak Lingkungan AI yang Tidak Merata’, beban ekologis ini tidak tersebar sama rata. Negara-negara berkembang, yang menjadi lokasi pusat data karena biaya energi dan lahan yang lebih rendah, justru menanggung dampak lingkungan dan sosial yang lebih berat seperti polusi air dan peningkatan suhu lokal akibat limbah panas dari pusat data.

Sebagai akademisi, saya tidak bisa mengabaikan bahwa kemajuan ini dibayar dengan ketidakadilan struktural dan ekologis global.

Kedua, ada persoalan epistemik dan etis yang serius. AI yang dilatih dengan miliaran parameter dari data internet memang mengesankan dalam hasilnya. Namun, siapa yang bisa menjamin bahwa data ini bebas dari bias, diskriminasi, atau kesalahan faktual yang berulang? Artikel di Built In menyebutkan setidaknya 14 ancaman potensial dari AI, termasuk disinformasi otomatis, penghapusan manusia dari proses pengambilan keputusan, dan ancaman terhadap privasi serta demokrasi. Bahkan jika AI tidak pernah mencapai kesadaran, ia tetap menjadi alat yang sangat kuat dan karenanya, sangat berbahaya di tangan segelintir korporasi dan negara.

Saya ingin menekankan: bahaya AI bukan karena ia mungkin menjadi ‘makhluk sadar’, melainkan karena manusia yang mengendalikannya mungkin tidak sadar akan tanggung jawab moralnya.

Ketiga, AI berpotensi menggerogoti sumber daya manusia dan intelektual. Di dunia pendidikan, misalnya, AI telah digunakan untuk menulis tugas, membuat presentasi, dan bahkan menilai esai. Ini memberikan kemudahan semu, tetapi di baliknya, integritas ilmiah dan semangat berpikir kritis bisa terkikis. Dalam sains, kita bisa mengandalkan AI untuk menyaring jurnal, menyusun abstrak, dan bahkan menyusun hipotesis. Namun, siapa yang akan memverifikasi kebenaran dan makna jika bukan manusia?

Sebagai seorang pengajar, saya merasa berkewajiban menyerukan perlunya kebijakan etik dan ekologis yang ketat dalam pengembangan dan penerapan AI. Kita tidak bisa menyerahkan masa depan pada sistem yang tidak memahami nilai-nilai dasar manusia: keberlanjutan, keadilan, dan belas kasih.

AI bisa menjadi alat yang luar biasa. Namun, seperti energi nuklir, pisau bedah, atau teori relativitas, ia harus disertai dengan kebijaksanaan moral dan kontrol kolektif. Tanpa itu, kita bukan sedang menciptakan kecerdasan, melainkan mempercepat kebodohan dalam bentuk lain yang dibungkus dalam bahasa teknologi.

Ketika fisika mengajarkan kita hukum kekekalan energi, saya percaya bahwa setiap inovasi pun harus tunduk pada hukum kekekalan tanggung jawab: kemajuan teknologi harus diimbangi dengan tanggung jawab sosial dan ekologis yang sepadan. Jika tidak, kita hanya akan menyaksikan planet yang semakin canggih tetapi juga semakin rapuh.