Η Anthropic ανακοίνωσε την εισαγωγή νέων κανόνων στην πολιτική χρήσης του chatbot Claude, απαγορεύοντας την επαναλαμβανόμενη και αδικαιολόγητα προσβλητική συμπεριφορά των χρηστών απέναντι στο σύστημα τεχνητής νοημοσύνης. Η αλλαγή, που γνωστοποιήθηκε την Πέμπτη 8 Οκτωβρίου, προβλέπει ρητά ότι το εργαλείο θα έχει τη δυνατότητα να διακόπτει συνομιλίες σε περιπτώσεις συστηματικής κακοποιητικής συμπεριφοράς. Οι νέοι όροι αναμένεται να τεθούν σε ισχύ στις 12 Νοεμβρίου 2026.
Τα όρια της συμπεριφοράς προς την τεχνητή νοημοσύνη
Σύμφωνα με την επίσημη ανακοίνωση της εταιρείας, το μέτρο αφορά αποκλειστικά ακραίες περιπτώσεις επαναλαμβανόμενης συμπεριφοράς που στερούνται προφανούς σκοπού. Η Anthropic διευκρινίζει ότι η πολιτική αυτή δεν απαγορεύει τη διαφωνία με τις απαντήσεις, την κριτική, την έκφραση εκνευρισμού, τη χρήση σκοτεινών δημιουργικών θεμάτων ή τις δοκιμές των μοντέλων για ερευνητικούς σκοπούς. Παρόλο που η δυνατότητα τερματισμού συνομιλιών υπήρχε και στο παρελθόν για σπάνιες περιπτώσεις, η ενσωμάτωσή της στους κανόνες χρήσης καθιστά πλέον το πλαίσιο πιο συγκεκριμένο.
Η απόφαση έχει προκαλέσει συζητήσεις σχετικά με το κατά πόσο τα συστήματα τεχνητής νοημοσύνης πρέπει να αντιμετωπίζονται με όρους που παραπέμπουν σε ανθρώπινες ιδιότητες. Ο Dr Barry Scannell, συνεργάτης της δικηγορικής εταιρείας William Fry, υπογράμμισε ότι η απόδοση ανθρώπινων χαρακτηριστικών στην τεχνητή νοημοσύνη μπορεί να οδηγήσει τους χρήστες σε λανθασμένες εντυπώσεις, τονίζοντας ότι δεν είναι δυνατόν να υπάρξει «σκληρότητα» απέναντι σε μαθηματικά και αριθμούς. Από την πλευρά του, ο Mustafa Suleyman, επικεφαλής τεχνητής νοημοσύνης της Microsoft, αντέδρασε στην ανακοίνωση μέσω των μέσων κοινωνικής δικτύωσης, εκφράζοντας την αποστασιοποίησή του από την αντιμετώπιση των συστημάτων AI ως οντοτήτων με ανθρώπινα χαρακτηριστικά.
Ευγένεια και υπολογιστικό κόστος
Η πρωτοβουλία της Anthropic επαναφέρει το ερώτημα σχετικά με τη σκοπιμότητα της ευγένειας κατά την επικοινωνία με τα γλωσσικά μοντέλα. Ενώ ορισμένοι χρήστες θεωρούν πως η ευγενική στάση προάγει καλύτερη επικοινωνία, άλλοι ειδικοί επισημαίνουν ότι οι εκφράσεις τύπου «παρακαλώ» και «ευχαριστώ» αυξάνουν τον αριθμό των μονάδων επεξεργασίας κειμένου (tokens), αυξάνοντας αντίστοιχα το υπολογιστικό κόστος. Το θέμα είχε σχολιάσει στο παρελθόν και ο Sam Altman, επικεφαλής της OpenAI, αναφέροντας ότι το κόστος ηλεκτρικής ενέργειας που απορρέει από τέτοιες πρακτικές ανέρχεται σε δεκάδες εκατομμύρια δολάρια.
Την αυξανόμενη δυσφορία ορισμένων χρηστών απέναντι στα συστήματα τεχνητής νοημοσύνης αντικατοπτρίζει και η συμπερίληψη του όρου «clanker» στη βραχεία λίστα του λεξικού Collins για τις λέξεις της χρονιάς το 2025. Πρόκειται για έναν υποτιμητικό όρο που χρησιμοποιείται για τα ρομπότ και τα συστήματα τεχνητής νοημοσύνης.
Ευρύτερη αναθεώρηση κανόνων
Εκτός από τις ρυθμίσεις για τη συμπεριφορά των χρηστών, η Anthropic προχώρησε σε ευρύτερη αναθεώρηση της πολιτικής της, καλύπτοντας ζητήματα όπως η παραπλάνηση ψηφοφόρων, η παρέμβαση σε εκλογικές διαδικασίες, η ανάπτυξη οπλικών συστημάτων και η παρακολούθηση προσώπων. Παρά τις νέες προβλέψεις, η εταιρεία δεν έχει διευκρινίσει ποια συγκεκριμένα μηνύματα θα εμπίπτουν στον ορισμό της κακοποιητικής συμπεριφοράς, διατηρώντας μια ασάφεια σχετικά με τα ακριβή όρια μεταξύ της επιτρεπτής κριτικής και της απαγορευμένης αλληλεπίδρασης.