INDOPOSCO.ID – Wakil Menteri Komunikasi dan Digital (Wamenkomdigi), Nezar Patria menjelaskan mengenai tantangan apa yang perlu diantisipasi, khususnya etika dalam teknologi kecerdasan buatan (AI).
Setidaknya, ia menjelaskan, ada sebanyak tujuh tantangan etika dalam teknologi AI yang perlu diantisipasi. Salah satunya adalah bias dan diskriminasi.
“Karena AI menggunakan data, dan pengolahan data ini dilakukan atau disiapkan oleh sebuah foundation model, yang berisi algoritma tertentu dan penyusunan algoritma ini terkadang juga tidak luput dari bias para developernya,” ujar Nezar dalam sambutannya di acara Tech & Telco Summit 2025 di Jakarta, seperti dilansir Antara, Jumat (21/2/2025).
Menurut Nezar, bias ini disebabkan oleh manusia, di mana dalam konteks ini merupakan developer (pengembang) dari AI tersebut. Ia menilai, manusia memiliki kepercayaan tertentu dalam hal tertentu juga.
Kemudian data-data dari AI pun diambil dari sumber-sumber yang sudah ada bias-bias tertentu. Bias ini pun beragam, meliputi ras, suku, agama sehingga hasil data AI juga cukup mendorong pada kelompok masyarakat tertentu.
Lalu yang kedua yakni transparansi dan akuntabilitas. Menurut Nezar, banyak dari sistem AI beroperasi seperti black box (kotak hitam), di mana proses internalnya sulit dipahami.
“Jadi kadang-kadang sulit ditebak dengan model yang ada, dan sudah banyak riset juga bagaimana memecahkan persoalan black box dalam prosesing data yang dilakukan oleh artificial intelligence ini,” ucap Nezar.
Hal ini berdampak pada sulitnya menilai serta mengetahui, siapa yang bertanggung jawab atas keputusan yang dibuat oleh teknologi AI.
Selanjutnya yang ketiga adalah perihal privasi, keamanan dan pengawasan. Nezar mengatakan, AI membutuhkan data dalam jumlah yang besar, untuk menghasilkan keputusan yang efektif.
Namun hal ini membuat data yang dibutuhkan meliputi data-data sensitif seperti data pribadi.
“Hal ini menimbulkan kecemasan dan juga kekhawatiran terkait pengumpulan, penyimpanan, dan penggunaan data yang dapat melanggar privasi individu,” tuturnya.
Selanjutnya yang keempat adalah dampak penggantian tenaga kerja dengan teknologi AI. Menurutnya, isu ini menjadi besar dan ramai dibicarakan hingga tingkat global.
Kemajuan teknologi AI memang membuka peluang pekerjaan yang baru untuk manusia. Namun, terdapat juga risiko-risiko yang ditimbulkan akibat kemajuan teknologi AI.
Salah satunya yakni kehilangan pekerjaan pada sejumlah sektor industri tertentu, yang diakibatkan penggantian tenaga kerja dengan teknologi AI.
“Karena itu dalam membuat policy dan membuat kebijakan di masa transisi atau di masa transformasi digital ini, dibutuhkan data-data yang cukup valid. Lalu strategi yang tepat juga agar kita bisa memastikan pekerjaan yang terdampak, dapat beradaptasi dengan perubahan,” imbuh Nezar.
Yang kelima adalah antisipasi dalam kreativitas dan kepemilikan karya seni oleh AI. Baginya, kreativitas dan kepemilikan karya seni dari AI tidak jelas status kepemilikannya.
Hal ini pun membuat banyak pihak menjadi komplain, serta fokus membahas mengenai hak cipta sebuah karya seni.
Lalu yang keenam adalah algoritma AI yang dimanfaatkan untuk manipulasi sosial. Isu algoritma AI menjadi isu yang diperhatikan karena rekayasa sosial lewat media sosial, bisa dilakukan dengan teknologi AI.
Terakhir adalah pengembangan senjata otonom berbasis teknologi AI, yang level autonomusnya bisa tanpa kendali manusia.
“Senjata itu bisa terbang sendiri dengan sejumlah data-data yang ada di dalamnya ya. Dan dia bisa melakukan reasoning sendiri lalu mengambil keputusan sendiri,” ungkap Nezar.
Bagi Nezar, teknologi ini mirip dengan teknologi AI agentik yang sedang berkembang. Atau bahkan senjata otonom akan menjadi tren setelah generatif AI. (dam)
