Proyek AI pemerintah NSW untuk menghadapi rezim risiko baru – Strategi – Perangkat Lunak
Business

Proyek AI pemerintah NSW untuk menghadapi rezim risiko baru – Strategi – Perangkat Lunak

Instansi pemerintah NSW perlu menilai semua proyek yang menggunakan sistem kecerdasan buatan yang dipesan lebih dahulu sebelum ditempatkan mulai Maret 2022 di bawah kerangka kerja baru yang bertujuan untuk mengidentifikasi potensi risiko.

Kerangka kerja jaminan AI telah dikembangkan oleh Departemen Layanan Pelanggan untuk membantu agensi merancang, membangun, dan menggunakan teknologi “dengan aman dan selamat”.

Itu terjadi hanya beberapa minggu setelah Ombudsman NSW mengungkapkan bahwa Revenue NSW secara tidak sah menggunakan sistem otomatis untuk memulihkan utang yang belum dibayar antara 2016 dan 2019, tanpa pengawasan manusia.

Kurangnya pengawasan manusia berarti bahwa, dalam beberapa kasus, sistem Revenue NSW mengosongkan rekening bank orang-orang yang rentan, yang mengarah pada seruan untuk visibilitas AI yang lebih besar dalam pengambilan keputusan pemerintah.

Kerangka kerja jaminan AI yang baru berisi pertanyaan-pertanyaan yang perlu dinilai sendiri oleh agensi di “semua tahap proyek AI dari awal hingga serah terima” dan kemudian secara berkala setelah sistem diterapkan.

Pertanyaan sejalan dengan lima prinsip etika AI wajib yang mencakup manfaat komunitas, keadilan, privasi dan keamanan, transparansi, dan akuntabilitas yang diharapkan dipatuhi oleh lembaga.

Untuk proyek AI yang didanai dari dana restart digital negara bagian senilai $2,1 miliar atau biaya lebih dari $5 juta, agensi harus menyerahkan penilaian mandiri mereka ke badan peninjau AI yang baru dibuat.

Badan peninjau AI akan meninjau penilaian mandiri dan membuat rekomendasi untuk mengurangi risiko apa pun, meskipun rekomendasi ini tidak akan mengikat lembaga yang melakukan peninjauan.

“Setiap keputusan untuk tidak memenuhinya harus didokumentasikan dengan alasan yang menyertainya,” kerangka jaminan menyatakan.

Lembaga juga perlu menyerahkan proyek lain ke badan peninjau AI di mana “risiko residual (setelah mitigasi) yang berada di kisaran menengah atau lebih tinggi” telah diidentifikasi dalam penilaian mandiri.

Hanya proyek yang menggunakan sistem AI yang merupakan “aplikasi komersial yang tersedia secara luas” atau solusi “tidak disesuaikan dengan cara apa pun” yang dianggap dikecualikan dari kerangka kerja.

Kepala ilmuwan data Ian Oppermann mengatakan kerangka kerja akan menjadi vital bagi agensi karena teknologi AI terus berkembang.

“Kerangka kerja tersebut meletakkan dasar untuk penggunaan sistem AI yang tepat, yang pada gilirannya berarti cara baru dalam memberikan layanan pemerintah di NSW,” katanya.

Oppermann mengatakan kerangka kerja ini “dirancang untuk mendukung lembaga pemerintah di setiap tahap karena proyek disampaikan dengan teknologi AI”, memberikan “panduan yang jelas tentang penggunaan AI yang aman”.

“Dengan kerangka kerja tersebut, pemerintah akan dapat mendukung lebih banyak proyek yang menyediakan layanan penting bagi semua orang di NSW sambil juga mengelola risiko yang terkait dengan teknologi tersebut,” katanya.

Posted By : togel hari ini hongkong