اعترفت الشرطة اليابانية بأنها سمحت للذكاء الاصطناعي بالتأثير على قرارها بعدم توفير الحضانة الوقائية لطفلة توفيت لاحقا في رعاية والدتها بسبب التعنيف.
وقال حاكم محافظة ميه، كاتسويوكي إيشيمي، في مؤتمر صحفي "أرقام الذكاء الاصطناعي يجب أن تكون للاطلاع فقط"، مشددا على أهمية استخدام "الحكم البشري" في عملية اتخاذ القرار النهائي.
ونقلت فوكس نيوز عن الحاكم قوله: "لسنا في وضع يسمح لنا بالتوصل إلى استنتاج ما إذا كانت طريقة استخدام هذه البيانات جيدة بنسبة 100 في المئة"، مشيرا إلى أنه يعتزم إحالة الأمر إلى لجنة طرف ثالث تتكون من خبراء خارجيين للحصول على مزيد من المعلومات وتحديد طرق استخدام النظام.
وتولت الشرطة حالة فتاة، تبلغ من العمر أربع سنوات، في مدينة تسو، وأدارتها من خلال برنامج ذكاء اصطناعي، أطلق في عام 2020.
وأعرب المسؤولون عن أملهم في أن يساعد البرنامج في تخفيف العبء على مراكز استشارات الأطفال، النظير الياباني لخدمات حماية الطفل في الغرب.
وحدد البرنامج حالة الطفلة بأنها تحتاج ما معدله "39 في المئة" من الحماية اللازمة، وأظهرت والدة الفتاة استعدادا للاستجابة لمشورة خبراء توجيه الطفل.
ونتيجة لذلك، لم يضع المسؤولون الفتاة في الحجز المؤقت لإجراء مزيد من التحقيقات في الكدمات الظاهرة على جسدها.
وقرر المسؤولون زيارة الطفلة من حين لآخر على أن تظل في رعاية والدتها، بناء على حقيقة أنهم قرروا أن الكدمات لم تكن بسبب سوء المعاملة وبسبب استعداد الأم للتعاون.
لكن الفتاة توفيت، وأظهرت التحقيقات الأولية إن موظفي مركز الحماية لم يقوموا بزيارة العائلة للاطمئنان على حال الطفلة، فيما تحتجز الأم، البالغة من العمر 42 عاما، للاشتباه بتسببها بأذى جسدي للابنة، أدى إلى وفاتها.