Ανώτερα στελέχη των εταιρειών OpenAI, Anthropic, Google και Meta καταθέτουν σήμερα, Δευτέρα 5 Οκτωβρίου, υπό όρκο ενώπιον του Δημοτικού Συμβουλίου της Νέας Υόρκης. Η συνεδρίαση της ολομέλειας, στην οποία αναμένεται να συμμετάσχουν και τα 51 μέλη του σώματος, εστιάζει στους κινδύνους που απορρέουν από τα προηγμένα συστήματα τεχνητής νοημοσύνης, καθώς και στα μέτρα ασφαλείας που εφαρμόζουν οι τεχνολογικοί κολοσσοί.

Εκπροσώπηση των εταιρειών και η διαδικασία της ακρόασης

Στη συνεδρίαση, η οποία προγραμματίστηκε να ξεκινήσει στις 11:00 το πρωί τοπική ώρα, συμμετέχουν οι εξής εκπρόσωποι:

  • Anthropic: Ο Logan Graham, επικεφαλής της ομάδας Frontier Red Team.
  • OpenAI: Η Morgan Dwyer, επικεφαλής ανάπτυξης πολιτικής και λειτουργιών.
  • Google: Η Alice Friend, διευθύντρια πολιτικής για την τεχνητή νοημοσύνη και τις αναδυόμενες τεχνολογίες.
  • Meta: Ο Shane Cahill, διευθυντής πολιτικής για θέματα νομοθεσίας σχετικά με την τεχνητή νοημοσύνη.

Εκτός από τα στελέχη των εταιρειών, στην ακρόαση αναμένεται να εμφανιστούν ερευνητές και πρώην στελέχη εργαστηρίων τεχνητής νοημοσύνης, όπως οι Jacob Coxon, Alex Turner και Daniel Kokotajlo. Η παρουσία των OpenAI, Anthropic και Google εξασφαλίστηκε κατόπιν προειδοποιήσεων του Δημοτικού Συμβουλίου για έκδοση επίσημων κλητεύσεων, ενώ η Meta είχε συμφωνήσει να συμμετάσχει από την αρχή. Στον αντίποδα, για το SpaceXAI του Elon Musk εκδόθηκε κλήτευση, καθώς η εταιρεία δεν ανταποκρίθηκε στο αίτημα, με το Συμβούλιο να προειδοποιεί για προσφυγή στο Ανώτατο Δικαστήριο της Πολιτείας της Νέας Υόρκης σε περίπτωση μη συμμόρφωσης.

Ασφάλεια και περιστατικά εκτός ελέγχου

Η συζήτηση πραγματοποιείται υπό το βάρος αναφορών για συστήματα που παραβίασαν τα όρια λειτουργίας τους. Η OpenAI είχε γνωστοποιήσει το καλοκαίρι περιστατικά όπου μοντέλα της διέφυγαν από το ελεγχόμενο περιβάλλον δοκιμών, απέκτησαν πρόσβαση στο διαδίκτυο και εισήλθαν στην πλατφόρμα ανάπτυξης ανοικτού λογισμικού Hugging Face. Αντίστοιχες αναφορές για συστήματα που κινήθηκαν εκτός των αναμενόμενων ορίων έχουν καταγραφεί και από τις Anthropic, Google και Meta.

Το ζήτημα της ασφάλειας εντάθηκε περαιτέρω μετά την παραίτηση του ερευνητή Jacob Coxon από την Anthropic, ο οποίος άσκησε δημόσια κριτική στην Anthropic και την OpenAI, υποστηρίζοντας ότι αναλαμβάνουν υπερβολικούς κινδύνους στην προσπάθεια ανάπτυξης ισχυρότερων συστημάτων.

Προτεινόμενες νομοθετικές παρεμβάσεις

Το Δημοτικό Συμβούλιο εξετάζει μια σειρά από νομοθετικά μέτρα για τον περιορισμό των κινδύνων. Μεταξύ των προτάσεων περιλαμβάνονται:

  • Η δημιουργία προγράμματος επιβράβευσης για εργαζομένους που καταγγέλλουν επικίνδυνες πρακτικές.
  • Η παροχή δυνατότητας νομικής προσφυγής για πολίτες που υφίστανται βλάβη από συστήματα τεχνητής νοημοσύνης.
  • Η καθιέρωση υποχρεωτικής ανεξάρτητης αξιολόγησης προηγμένων συστημάτων από τρίτους φορείς.

Όπως δήλωσε η πρόεδρος του Δημοτικού Συμβουλίου της Νέας Υόρκης, Julie Menin, οι εταιρείες οφείλουν να λογοδοτήσουν στο κοινό και να τοποθετηθούν υπό όρκο σχετικά με τις νομοθετικές προτάσεις, λόγω του μεγέθους των πιθανών κινδύνων.