Η αστυνομία της Νέας Υόρκης προχώρησε κατά λάθος στη σύλληψη ενός αθώου πολίτη, ύστερα από ταυτοποίηση μέσω συστήματος τεχνητής νοημοσύνης.

Τα τελευταία χρόνια η Αστυνομία της Νέας Υόρκης έχει ξοδέψει περίπου 2,8 δισεκατομμύρια δολάρια σε τεχνολογίες παρακολούθησης, όπως συσκευές εντοπισμού τηλεφώνων και ειδικά βαν με ακτίνες x. Ανάμεσα στις πιο αμφιλεγόμενες πρακτικές της όμως είναι η χρήση λογισμικού αναγνώρισης προσώπου.

Πώς λειτουργεί το λογισμικό

Η τεχνολογία αυτή αναλύει το πρόσωπο, εντοπίζει βασικά χαρακτηριστικά, τα μετατρέπει σε αριθμητικό κώδικα και στη συνέχεια τα συγκρίνει με μια βάση δεδομένων για να βρει ταίριασμα. Χρησιμοποιείται εδώ και χρόνια σε καθημερινές εφαρμογές, από το ξεκλείδωμα κινητών και την αυτόματη σήμανση φωτογραφιών στα social media, μέχρι τον έλεγχο στα αεροδρόμια. Πλέον, έχει μπει δυναμικά και στην αστυνόμευση.

Η υπόθεση του Trevis Williams

Όμως η τεχνολογία αποδείχθηκε μακριά από το αλάνθαστο. Σύμφωνα με ρεπορτάζ των New York Times, τον περασμένο Απρίλιο συνελήφθη ο Trevis Williams, πατέρας οικογένειας, που βρέθηκε ως «πιθανό ταίριασμα» έπειτα από ανάλυση ενός θολού βίντεο από κάμερα ασφαλείας. Όταν τον εντόπισαν αστυνομικοί του μετρό στο Μπρούκλιν, τον συνέλαβαν και τον ανέκριναν.

Η πραγματικότητα όμως ήταν διαφορετική. Ο Williams ήταν οκτώ πόντους ψηλότερος και περίπου 30 κιλά βαρύτερος από τον ύποπτο που αναζητούσαν, ωστόσο οδηγήθηκε στη φυλακή όπου έμεινε δύο ημέρες. Ο ίδιος επέμενε: «Δεν είμαι εγώ, ορκίζομαι στον Θεό ότι δεν είμαι εγώ», με έναν ντετέκτιβ να του απαντά: «Φυσικά και θα το πεις αυτό». Τελικά αποδείχθηκε ότι πράγματι δεν είχε καμία σχέση με την υπόθεση και η κατηγορία αποσύρθηκε τον Ιούλιο.

Οι ανησυχίες για την τεχνητή νοημοσύνη στην αστυνόμευση

Η χρήση της αναγνώρισης προσώπου από τις αστυνομικές αρχές παραμένει αντικείμενο σφοδρής αντιπαράθεσης. Οι επικριτές τονίζουν ότι θέτει σε κίνδυνο την ιδιωτικότητα, ανοίγει τον δρόμο για μαζική παρακολούθηση, εμπεριέχει διακρίσεις λόγω αλγοριθμικών λαθών και μπορεί να εκθέσει ευαίσθητα βιομετρικά δεδομένα.

Υποστηρίζουν επίσης ότι αντιβαίνει στις ατομικές ελευθερίες, καθώς επιτρέπει στην αστυνομία να παρακολουθεί πολίτες χωρίς τη συναίνεσή τους, ενώ υπάρχουν μελέτες που δείχνουν πως τα συστήματα αυτά συχνά παρερμηνεύουν τα χαρακτηριστικά ατόμων με διαφορετικό χρώμα δέρματος. Η περίπτωση του Williams δείχνει με τον πιο σαφή τρόπο ότι η τεχνολογία δεν είναι πάντα ακριβής.