ریسکهای امنیتی هوش مصنوعی در بخش دولتی بریتانیا افشای دادههای پرسنل دفاعی و چالشهای شفافیت, گزارشی رسمی از سوی دولت بریتانیا فاش کرده است که بهرهگیری از ابزار هوش مصنوعی شرکت، میزبانی شده روی زیرساخت ابری آمازون (AWS) در ایالات متحده، برای بهینهسازی فرآیند استخدام در وزارت دفاع، میتواند زمینهساز افشای اطلاعات حساس پرسنل نظامی شود.
این سیستم از دادههایی نظیر نام، سمت و آدرس ایمیل کارکنان دفاعی برای نگارش آگهیهای استخدامی متنوعتر استفاده میکند؛ اما ذخیرهسازی این دادهها خارج از مرزهای بریتانیا، نگرانیهای جدی در خصوص شناسایی هویت پرسنل در صورت وقوع نقض داده را به همراه دارد.
ارزیابی ریسک و تدابیر امنیتی وزارت دفاع به نقل از سوابق شفافیت الگوریتمی دولت بریتانیا، وزارت دفاع اگرچه احتمال بروز این ریسک را پایین ارزیابی کرده و به محدودیتهای امنیتی قوی اعمالشده توسط تامینکنندگان — از جمله، AWS و سرویس تشخیص تهدید — استناد میکند، اما این مورد تنها یکی از چندین ریسک شناساییشده در چارچوب استقرار هوش مصنوعی در بخش عمومی است.
ر مستقیم در پروژههای هوش مصنوعی دولت بریتانیا شریک هستند. مایکروسافت سیستم مبتنی بر هوش مصنوعی را در اختیار کارمندان دولتی قرار داده است.
پت مکافادن، وزیر دفتر کابینه، اخیراً اعلام کرده که هدف دولت، تفکر و عمل کردن به سبک استارتاپهاست تا خدمات عمومی سریعتر و کارآمدتر شوند.
سایر ابزارهای هوش مصنوعی و ریسکهای شناساییشده در اسناد منتشرشده، موارد زیر به عنوان نمونههای دیگر کاربرد هوش مصنوعی در بخش دولتی به همراه ریسکهایشان فهرست شدهاند ابزار برنامهریزی درسی مبتنی بر اگرچه به معلمان در شخصیسازی طرحهای آموزشی و صرفهجویی وقت کمک میکند، اما احتمال تولید محتوای نامناسب یا مغرضانه وجود دارد.
چتبات رفاه کودکان در دادگاههای خانواده این سیستم دسترسی ۲۴ ساعته به اطلاعات را فراهم میکند و زمان انتظار برای مشاوره انسانی را کاهش میدهد، اما خطر توهم و ارائه دادههای نادرست را دارد. سیستم وزارت خزانهداری از یادگیری ماشین برای مدلسازی دقیقتر تغییرات مالیاتی و مزایای اجتماعی بهره میبرد، با این حال خطاهای کدنویسی یا دادههای ورودی معیوب میتواند نتایج غیرمنتظره تولید کند.
اتکا بیش از حد به هوش مصنوعی در بازرسیهای بهداشت غذا ممکن است توانایی استدلال انسانی بازرسان را تضعیف کند و امتیازدهی سیستماتیک پایینتر به برخی نوع مراکز را به همراه داشته باشد، هرچند میتواند بازرسیهای هدفمندتر در مکانهای پرریسک را تسهیل نماید.
شفافیت، کلید اعتماد عمومی کایل، مقام مسئول، بر این نکته تأکید دارد که فناوری پتانسیل انقلابی برای بهبود خدمات عمومی دارد، اما شفافیت در نحوه و چرایی استفاده از ابزارهای الگوریتمی، پیششرط اطمینان از امنیت، اثربخشی و پاسخگویی آنهاست.
نمونههای عملیاتی دیگر در حال اجرا در ادامه این طرحها، چتباتهای هوشمند برای پاسخگویی به سوالات مشتریان شبکه ریلی ملی، دستیار آموزشی آیلا مبتنی بر برای معلمان، و ربات پردازش زبان طبیعی در سرویس مشاوره کودکان و خانواده (با حدود ۲۵۰۰ پرسش ماهانه) از دیگر کاربردها هستند.
تولید محتوای زیانآور.