Pendapatan NSW mengumpulkan hutang secara tidak sah menggunakan sistem otomatis – Perangkat Lunak
Technology

Pendapatan NSW mengumpulkan hutang secara tidak sah menggunakan sistem otomatis – Perangkat Lunak

Revenue NSW secara tidak sah menggunakan sistem otomatis untuk memulihkan hutang yang belum dibayar dan dalam beberapa kasus mengosongkan rekening bank orang-orang yang rentan antara tahun 2016 dan 2019, sebelum membuat perubahan teknis.

Ombudsman NSW Paul Miller mengungkap perilaku tersebut dalam sebuah laporan yang menyerukan visibilitas yang lebih besar dari penggunaan kecerdasan buatan dan teknologi pembelajaran mesin dalam pengambilan keputusan pemerintah.

Badan-badan saat ini tidak diharuskan untuk melaporkan penggunaan ‘teknologi mesin’ mereka kepada parlemen, dan tidak secara rutin memberi tahu orang-orang ketika keputusan telah dibuat dengan bantuan teknologi.

Laporan tersebut, yang dirilis pada hari Senin, menemukan bahwa Revenue NSW telah menggunakan “teknologi mesin” untuk mengeluarkan pesanan garnishee tanpa pengawasan manusia menyusul serangkaian keluhan kepada Ombudsman.

Perintah Garnisee digunakan untuk memulihkan denda yang belum dibayar dengan mewajibkan lembaga keuangan untuk mentransfer dana ke Revenue NSW dari pemegang rekening dengan denda yang belum dibayar tanpa sepengetahuan mereka sebelumnya.

Tapi di bawah UU Denda, pesanan hanya akan dikeluarkan ketika seseorang belum terlibat dengan Revenue NSW setelah beberapa pemberitahuan.

Ombudsman menemukan sejumlah pengadu, yang tidak menyadari bahwa “teknologi mesin” sedang digunakan, telah “dibiarkan dengan saldo nol di rekening mereka” mengikuti perintah garnishee.

Dikatakan “beberapa pengadu adalah penerima kesejahteraan, yang rekening banknya menyimpan dana yang mereka terima dari Centrelink sebagai satu-satunya sumber pendapatan mereka”.

Antara tahun keuangan 2010-11 dan 2018-19, jumlah pesanan garnishee yang dikeluarkan oleh Revenue NSW naik dari 6905 menjadi lebih dari 1,6 juta.

Setelah penyelidikan, Revenue NSW membuat sejumlah perubahan pada sistem otomatis, termasuk mengambil langkah-langkah untuk “mengecualikan ‘orang-orang yang rentan’ dari pembuatan pesanan garnishee”.

Perubahan tersebut melibatkan “menerapkan model pembelajaran mesin baru… dengan tujuan mengidentifikasi dan mengecualikan orang yang diidentifikasi sebagai rentan” pada September 2018.

“Model ini dikembangkan menggunakan algoritme pembelajaran mesin yang membandingkan semua catatan pelanggan dengan 60.000 orang yang telah diidentifikasi sebagai rentan dalam sistem,” kata Ombudsman.

“Secara keseluruhan, model tersebut dilatih untuk mengidentifikasi apakah seseorang rentan menggunakan 250.000 file pelanggan, dan dengan mempertimbangkan daftar variabel potensial.”

Revenue NSW juga memperkenalkan langkah manual dalam proses penerbitan pesanan garnishee pada Maret 2019 yang memerlukan persetujuan resmi dari anggota staf.

“Ini adalah [done] melalui sistem lampu lalu lintas yang menerapkan kriteria yang dikembangkan dari: UU Denda dan aturan bisnis ke sejumlah besar file yang dipilih oleh sistem teknologi untuk pesanan hiasan,” kata Ombudsman.

“Di mana semua lampu berwarna hijau, anggota staf Revenue NSW menyetujui pesanan garnishee dan file elektronik dikirimkan ke bank.”

Ombudsman juga merekomendasikan agar Revenue NSW “mencari nasihat hukum ahli tentang legalitas dan desain sistem otomatisnya”, karena ada keraguan tentang kelanjutan penggunaan sistem tersebut.

Tetapi hampir setahun kemudian ditemukan bahwa “tidak ada saran yang diminta, baik secara eksternal maupun dari cabang hukum Departemen Layanan Pelanggan, di mana Revenue NSW menjadi bagiannya”.

Revenue NSW mengatakan kepada Ombudsman bahwa “tidak menganggap perlu untuk meminta nasihat seperti itu, karena menganggap perubahan yang telah dibuat pada prosesnya … telah mengatasi potensi masalah hukum”.

“Menyusul intervensi kami, dan untuk penghargaannya, Revenue NSW mengambil sejumlah langkah untuk mengatasi kekhawatiran kami tentang ketidakadilan,” kata Miller.

“Namun, apa yang tidak dilakukan … adalah mencari nasihat hukum ahli tentang apakah penggunaan proses otomasi itu sah dan sesuai dengan wewenang di bawah undang-undang. UU Denda.”

Akibatnya, Ombudsman mencari nasihat hukumnya sendiri, yang menyimpulkan bahwa proses Revenue NSW “tidak sah” antara awal 2016 dan Maret 2019.

“Penasihat menyarankan bahwa penggunaan ‘teknologi mesin’ dari Revenue NSW untuk membuat pesanan garnishee … adalah melanggar hukum karena tidak ada orang yang berwenang yang terlibat dalam proses mental penalaran untuk mencapai tingkat kepuasan yang diperlukan untuk mengeluarkan perintah garnishee,” katanya. .

Saran tersebut juga menunjukkan bahwa perubahan yang diperkenalkan pada Maret 2019 “tampaknya tidak sepenuhnya mengatasi masalah hukum”, dengan langkah manual yang dimasukkan ke dalam proses “tidak cukup bagi pengambil keputusan untuk menyetujui penerbitan… perintah”.

“Penasihat menyarankan bahwa masalah yang dijelaskan dengan keabsahan proses dapat diatasi dengan modifikasi proses atau amandemen legislatif,” kata Ombudsman.

Pendapatan NSW sekarang “mempertimbangkan perubahan lebih lanjut pada sistem garnishee-nya”, menurut Ombudsman.

Miller juga memperingatkan lembaga lain yang menggunakan “teknologi mesin”, khususnya di bidang kepolisian hukum, perlindungan anak dan penangguhan SIM, untuk memastikan mereka menggunakannya secara sah.

“Kami prihatin bahwa lembaga lain juga dapat merancang dan menerapkan ‘teknologi mesin’ tanpa menghargai semua risiko, tanpa transparansi, dan tanpa mendapatkan nasihat hukum yang sesuai,” katanya.

Laporan tersebut menyarankan badan-badan tersebut mempertimbangkan untuk meminta persetujuan parlemen melalui undang-undang sebelum mengadopsi ‘teknologi mesin’ untuk fungsi-fungsi administratif yang penting.

“Mencari otorisasi legislatif yang tegas tidak hanya mengurangi risiko bagi lembaga,” kata Miller, menambahkan bahwa “itu juga memberi parlemen dan visibilitas publik tentang apa yang sedang diusulkan, dan kesempatan untuk mempertimbangkan peraturan lain tentang teknologi yang mungkin diperlukan”.

“Itu mungkin termasuk hak undang-undang untuk meminta seseorang untuk meninjau keputusan mesin apa pun, atau persyaratan bahwa algoritme mesin divalidasi secara eksternal, dan kemudian diaudit secara berkala, dengan laporan tersebut tersedia untuk umum.”

Posted By : pengeluaran hk hari ini 2021