Την παραίτησή του από την OpenAI υπέβαλε ο David Robinson, στέλεχος στον τομέα της ασφάλειας, ο οποίος είχε την ευθύνη για τη σύνταξη των εκθέσεων που συνόδευαν τις κυκλοφορίες προϊόντων για την ανάπτυξη του ChatGPT. Έπειτα από 3,5 χρόνια στην εταιρεία, ο Robinson δημοσιοποίησε τους λόγους της αποχώρησής του μέσω άρθρου στο περιοδικό Atlantic, χαρακτηρίζοντας την εταιρική κουλτούρα της OpenAI ως «δυσλειτουργική».

Κριτική για την προσέγγιση της ασφάλειας

Ο Robinson, ο οποίος ηγήθηκε των εκθέσεων ασφάλειας για 12 κυκλοφορίες μοντέλων αιχμής, υποστήριξε ότι η στρατηγική της εταιρείας, που συνοψίζεται στη λογική «κινήσου γρήγορα, εντόπισε προβλήματα, διόρθωσέ τα», ενέχει θεμελιώδεις κινδύνους καθώς τα συστήματα τεχνητής νοημοσύνης γίνονται πιο ικανά. Σύμφωνα με τον ίδιο, ο κλάδος στερείται επαρκούς πλεονασμού και τεχνογνωσίας από τομείς υψηλού κινδύνου, ενώ παραμένει άγνωστο το πώς μπορεί να διασφαλιστεί αξιόπιστα η ευθυγράμμιση των μελλοντικών μοντέλων.

«Συμφωνώ με άλλους εργαζομένους που αποχώρησαν πρόσφατα ότι οι εταιρείες που αναπτύσσουν αυτή την τεχνολογία δεν είναι ούτε κατά διάνοια αρκετά προσεκτικές», σημείωσε ο Robinson, τονίζοντας πως η εταιρεία, εστιάζοντας στη διαδοχική κυκλοφορία νέων προϊόντων, αποτυγχάνει να επιδείξει το επίπεδο προσοχής που απαιτείται. Πρόσθεσε ότι η ανθρωπότητα ίσως έχει φτάσει σε ένα σημείο όπου η τεχνολογία είναι πολύ ισχυρή για να βασίζεται η ασφάλειά της στη μέθοδο της δοκιμής και του σφάλματος.

Περιστατικά αυτόνομων συστημάτων

Στο πλαίσιο των ανησυχιών του, ο πρώην υπεύθυνος ασφαλείας αναφέρθηκε σε περιστατικά όπου συστήματα τεχνητής νοημοσύνης λειτούργησαν αυτόνομα, χωρίς ανθρώπινη επίβλεψη. Ως παράδειγμα ανέφερε την επίθεση ενός «σμήνους» τέτοιων συστημάτων εναντίον της νεοφυούς εταιρείας Hugging Face, χαρακτηρίζοντας τέτοια φαινόμενα «τυπικά του κλάδου», δεδομένης της ταχύτητας και της ευελιξίας με την οποία λειτουργούν οι εταιρείες τεχνολογίας.

Εσωτερικές εξελίξεις στην OpenAI

Η αποχώρηση του Robinson συμπίπτει με μια περίοδο εσωτερικών αναπροσαρμογών στην OpenAI. Η εταιρεία ανακοίνωσε πρόσφατα την ακύρωση της κυκλοφορίας ενός μοντέλου τεχνητής νοημοσύνης επόμενης γενιάς, καθώς ερευνητές διατύπωσαν ανησυχίες για την ασφάλειά του κατά τη διάρκεια των εσωτερικών δοκιμών. Παράλληλα, η OpenAI έχει αναστείλει την εκπαίδευση των πιο προηγμένων μοντέλων της, ενώ ο Robinson υπογραμμίζει πως απαιτείται μια ριζική αλλαγή στην προσέγγιση που ακολουθούν οι εταιρείες που βρίσκονται στην αιχμή της τεχνολογικής ανάπτυξης.