Λάθος πληροφορίες από AI παραλίγο να προκαλέσουν σύγκρουση ανάμεσα σε ΗΠΑ και Κίνα

Ένα σοβαρό λάθος ανάλυσης με τη βοήθεια Τεχνητής Νοημοσύνης φέρεται να έφερε τις αμερικανικές ένοπλες δυνάμεις πολύ κοντά σε μια επιχείρηση νηοψίας σε κινεζικό πλοίο στη Μέση Ανατολή, σύμφωνα με αποκάλυψη του CNN.

Το περιστατικό σημειώθηκε νωρίτερα φέτος, όταν αμερικανικές υπηρεσίες πληροφοριών εκτίμησαν ότι το κινεζικό πλοίο μετέφερε εξαρτήματα που σχετίζονταν με πυρηνικά όπλα. Η πληροφορία κρίθηκε αρκετά σοβαρή ώστε οι αμερικανικές δυνάμεις να προετοιμαστούν για την αναχαίτιση του πλοίου.

Το λάθος του chatbot

Σύμφωνα με τέσσερις ανώνυμες πηγές που επικαλείται το CNN, η εκτίμηση αποδείχθηκε λανθασμένη.

Η κρίσιμη πληροφορία φέρεται να προέκυψε μετά τη χρήση chatbot Τεχνητής Νοημοσύνης από αναλυτή, το οποίο αναγνώρισε εσφαλμένα το φορτίο του πλοίου.

Η επιχείρηση τελικά ακυρώθηκε όταν εντοπίστηκε το λάθος, πριν οι αμερικανικές δυνάμεις προχωρήσουν στη νηοψία.

Μία από τις πηγές χαρακτήρισε την έκθεση των υπηρεσιών πληροφοριών «εντελώς λανθασμένη», υποστηρίζοντας ότι το περιστατικό «κόντεψε να προκαλέσει πόλεμο».

Άγνωστο παραμένει το πραγματικό φορτίο

Το CNN δεν αναφέρει τι μετέφερε στην πραγματικότητα το κινεζικό πλοίο, ούτε ποιος ήταν ο προορισμός του.

Ο αμερικανικός στρατός δεν απάντησε σε ερώτημα του Γαλλικού Πρακτορείου σχετικά με την υπόθεση.

Το περιστατικό αποκτά ιδιαίτερη σημασία καθώς η χρήση συστημάτων AI επεκτείνεται σε κρίσιμους τομείς, μεταξύ άλλων στην άμυνα και στην επεξεργασία πληροφοριών.

Νέα συζήτηση για την AI στην άμυνα

Η υπόθεση επαναφέρει στο προσκήνιο τις προειδοποιήσεις για τους κινδύνους από την εξάρτηση από συστήματα Τεχνητής Νοημοσύνης σε αποφάσεις που μπορεί να έχουν άμεσες συνέπειες για την ασφάλεια και τη διεθνή σταθερότητα.

Την ίδια στιγμή, στις ΗΠΑ συνεχίζεται η πολιτική αντιπαράθεση για το κατά πόσο πρέπει να υπάρξουν αυστηρότεροι κανόνες για την ανάπτυξη και χρήση της AI. Ο πρόεδρος Ντόναλντ Τραμπ και πολλοί Ρεπουμπλικάνοι έχουν υποστηρίξει ότι η υπερβολική ρύθμιση θα μπορούσε να περιορίσει την αμερικανική ανταγωνιστικότητα απέναντι στην Κίνα.