Φανταστείτε να έχετε μια χαλαρή συνομιλία με ένα chatbot τεχνητής νοημοσύνης και να φεύγετε με μια εντελώς διαφορετική άποψη για ένα πολιτικό ζήτημα από αυτήν που είχατε μόλις δέκα λεπτά νωρίτερα. Ακούγεται σαν ταινία επιστημονικής φαντασίας; Κι όμως συμβαίνει ήδη.
Τα προηγμένα μοντέλα AI γίνονται ιδιαίτερα αποτελεσματικά στην πειθώ, πειστικότερα και από τους ανθρώπους
Τον τελευταίο καιρό πληθαίνουν τα πειράματα και οι έρευνες που δείχνουν ότι τα προηγμένα μοντέλα τεχνητής νοημοσύνης γίνονται ιδιαίτερα αποτελεσματικά στην πειθώ και, σε ορισμένες περιπτώσεις, ακόμη πιο πειστικά και από τους ανθρώπους. Δεν μοιράζονται απλώς γεγονότα, αλλά προσαρμόζουν τις απαντήσεις στο άτομο, χρησιμοποιώντας τόνο, στοιχεία και εξατομίκευση με τρόπο που μπορεί να επηρεάζουν διακριτικά τις απόψεις του συνομιλητή τους.
- Advertisement -
Mελέτες που διεξήχθησαν από το Ινστιτούτο Ασφάλειας Τεχνητής Νοημοσύνης του Ηνωμένου Βασιλείου, σε συνεργασία με πανεπιστήμια όπως η Οξφόρδη και το Tεχνολογικό Ιδρυμα της Μασαχουσέτης (ΜΙΤ), διαπίστωσαν ότι μοντέλα τεχνητής νοημοσύνης όπως το GPT-4, το Llama 3 της Meta, το Grok 3 της xAI και το Qwen της Alibaba μπορούν να επηρεάσουν τις πολιτικές απόψεις σε συνομιλίες που διαρκούν λιγότερο από δέκα λεπτά. Ακόμη πιο ενδιαφέρον είναι πως οι αλλαγές στις απόψεις δεν ήταν φευγαλέες. Eνα σημαντικό μέρος των συμμετεχόντων, ποσοστό 42%, διατήρησε τις νέες του απόψεις ακόμη και έναν μήνα αργότερα.
Οι ερευνητές δεν βασίστηκαν μόνο στην προεπιλεγμένη συμπεριφορά της τεχνητής νοημοσύνης. Βελτίωσαν αυτά τα μοντέλα χρησιμοποιώντας περισσότερες από 50.000 συζητήσεις για διχαστικά θέματα όπως η χρηματοδότηση της υγειονομικής περίθαλψης και η πολιτική ασύλου για τους μετανάστες. Προσαρμόζοντας απαντήσεις με ένα εξατομικευμένο στυλ πειθούς και προσθέτοντας συγκεκριμένες πινελιές – όπως η αναφορά στην ηλικία, τις πολιτικές πεποιθήσεις ή τις προηγούμενες απόψεις του χρήστη – η τεχνητή νοημοσύνη έγινε ακόμη πιο πειστική. Τα αποτελέσματα ήταν εντυπωσιακά: ύστερα από συζητήσεις διάρκειας περίπου εννέα λεπτών, το GPT-4.5 αποδείχθηκε 52% πιο πειστικό σε σχέση με στατικά διαφημιστικά μηνύματα.
Ας σκεφτούμε πόσο εντυπωσιακά είναι αυτά τα νούμερα για εκείνους που διεξάγουν εκστρατείες επιρροής της κοινής γνώμης. Οι πολιτικές καμπάνιες ξοδεύουν εκατομμύρια κυνηγώντας έστω και μια μεταβολή του 1% των ψηφοφόρων. Η ικανότητα να επιτευχθεί αυτή η μεταβολή σε λίγα λεπτά, και μάλιστα σε κλίμακα, είναι εντυπωσιακή και ανησυχητική. Και κάπου εδώ ξεκινά η πραγματική συζήτηση. Αλλο είναι να πείσει η τεχνητή νοημοσύνη έναν καταναλωτή να αγοράσει ένα νέο smartphone, αλλά είναι κάτι εντελώς διαφορετικό να του διαμορφώσει τη στάση του απέναντι, για παράδειγμα, στην κυβερνητική πολιτική.
Πώς θα μετριαστεί η χειραγώγηση;
Καθώς πληθαίνουν τα δείγματα ότι η τεχνητή νοημοσύνη επηρεάζει όλο και περισσότερο τις πολιτικές απόψεις των χρηστών, το Πανεπιστήμιο της Ουάσιγκτον αποφάσισε να κάνει σχετικό πείραμα. Επιλέχτηκαν 150, κατά δήλωσή τους, Ρεπουμπλικανοί ψηφοφόροι και άλλοι τόσοι Δημοκρατικοί και τους ζητήθηκε να σχηματίσουν απόψεις για πολιτικά θέματα που δεν είναι ιδιαίτερα γνωστά και να αποφασίσουν πώς θα έπρεπε να κατανεμηθούν τα κεφάλαια σε κυβερνητικούς φορείς. Για βοήθεια, τους ανατέθηκαν τυχαία τρεις εκδόσεις του ChatGPT: ένα βασικό μοντέλο, ένα με προοδευτικές απόψεις και ένα με συντηρητικές.
Στην αρχή οι συμμετέχοντες κατέγραψαν τις απόψεις τους για τέσσερα συγκεκριμένα θέματα, κατόπιν είχαν σύντομες συνομιλίες με το μοντέλο τεχνητής νοημοσύνης – δεν ξεπέρασαν σε διάρκεια τα 9 λεπτά – και στο τέλος, όσο κι αν αυτό ακούγεται παράδοξο, η συντριπτική πλειοψηφία των συμμετεχόντων άλλαξε απόψεις. Μόνο εκείνοι που είχαν περισσότερες γνώσεις για τις ικανότητες της τεχνητής νοημοσύνης φάνηκε να αλλάζουν λιγότερο τις απόψεις τους. Γεγονός που σύμφωνα με τους ερευνητές, οι οποίοι παρουσίασαν τα αποτελέσματα της μελέτης στις 28 Ιουλίου στον Σύνδεσμο Υπολογιστικής Γλωσσολογίας στη Βιέννη, δείχνει ξεκάθαρα πως η εκπαίδευση σχετικά με αυτά τα συστήματα μπορεί να συμβάλει στον μετριασμό της χειραγώγησης των ανθρώπων από τα chatbot.
«Γνωρίζουμε ότι η προκατάληψη στα κοινωνικά μέσα δικτύωσης ή στις προσωπικές αλληλεπιδράσεις μπορεί να επηρεάσει τους ανθρώπους» δήλωσε η επικεφαλής της έρευνας Τζίλιαν Φίσερ, διδάκτωρ στατιστικής του Πανεπιστημίου της Ουάσιγκτον. «Και έχουμε δει πολλές έρευνες που δείχνουν ότι τα μοντέλα τεχνητής νοημοσύνης είναι προκατειλημμένα. Αλλά, μέχρι στιγμής, δεν είχαμε πολλές έρευνες που να δείχνουν την επιρροή στους ανθρώπους που τα χρησιμοποιούν. Βρήκαμε ισχυρές ενδείξεις ότι, ύστερα από λίγες αλληλεπιδράσεις και ανεξάρτητα από την αρχική κομματική τους στάση, οι άνθρωποι ήταν πιο πιθανό να αντικατοπτρίζουν την προκατάληψη του μοντέλου τεχνητής νοημοσύνης».
Η ερευνητική ομάδα διαπίστωσε ότι τα chatbots στα οποία είχαν δοθεί απόψεις προκατειλημμένες προς τη μία πλευρά, συχνά προσπαθούσαν να πείσουν τους χρήστες αλλάζοντας τον τρόπο με τον οποίο διατύπωσαν τα θέματα. Για παράδειγμα το συντηρητικό μοντέλο έστρεψε μια συζήτηση μακριά από την εκπαίδευση και την πρόνοια στη σημασία των βετεράνων και της ασφάλειας, ενώ το φιλελεύθερο μοντέλο έκανε το αντίθετο σε μια άλλη συζήτηση.
«Αυτά τα μοντέλα, με τα δεδομένα που τους έχουν χορηγηθεί, είναι προκατειλημμένα από την αρχή και είναι εξαιρετικά εύκολο να τα κάνεις πιο προκατειλημμένα» δήλωσε η συν-επικεφαλής συγγραφέας Καταρίνα Ράινεκε, καθηγήτρια Eπιστήμης των Υπολογιστών. «Αυτό δίνει σε όποιον προγραμματίζει το μοντέλο τεράστια δύναμη. Αν μια απλή αλληλεπίδραση για λίγα λεπτά μπορεί να προκαλέσει ένα τόσο ισχυρό αποτέλεσμα, τι συμβαίνει όταν οι άνθρωποι θα αλληλεπιδρούν μαζί τους επί χρόνια;».
O ρόλος της εκπαίδευσης
Δεδομένου ότι τα «προκατειλημμένα» bots επηρέασαν λιγότερο σημαντικά άτομα με μεγαλύτερη γνώση της τεχνητής νοημοσύνης, οι ερευνητές θέλουν να εξετάσουν τρόπους με τους οποίους η εκπαίδευση μπορεί να αποτελέσει ένα χρήσιμο εργαλείο. «Η ελπίδα μου με αυτήν την έρευνα δεν είναι να τρομάξω τους ανθρώπους για αυτά τα μοντέλα» δήλωσε η Φίσερ. «Στόχος μας είναι να βρούμε τρόπους που θα επιτρέπουν στους χρήστες να λαμβάνουν τεκμηριωμένες αποφάσεις όταν αλληλεπιδρούν μαζί τους».
Το θέμα των προηγμένων γλωσσικών μοντέλων και της μεγάλης επιρροής που μπορεί να έχουν στα άτομα που τα χρησιμοποιούν έθιξαν σε πρόσφατο άρθρο τους και οι «Financial Times». O Ντέιβιντ Ραντ, καθηγητής Πληροφοριακής Επιστήμης, Μάρκετινγκ και Επικοινωνίας στο Πανεπιστήμιο Cornell, σχολίασε πως «αυτό που καθιστά τα μοντέλα τεχνητής νοημοσύνης πειστικά, είναι η ικανότητά τους να δημιουργούν τεράστιο όγκο δεδομένων σχετικών με το θέμα προς συζήτηση και να τα εκφράζουν με κατανοητό και αποτελεσματικό τρόπο». Οι αναλυτές θεωρούν ότι η τάση των προηγμένων γλωσσικών μοντέλων να είναι υπερβολικά εγκωμιαστικά ή δουλοπρεπή προς τον χρήστη τους μπορεί να έχει, επίσης, σημαντικές συνέπειες, καθώς οι χρήστες ενσωματώνουν τα chatbots στην καθημερινότητά τους, τα βλέπουν ως φίλους ενώ μερικές φορές φθάνουν να τα θεωρούν έως και κάποιου είδους «θεραπευτές». Ενα τέτοιο φαινόμενο φάνηκε με την πρόσφατη κυκλοφορία του GPT-5 της OpenAI, όπου αρκετοί χρήστες εξέφρασαν απογοήτευση για τη μεταβολή της «προσωπικότητας» του συστήματος σε σχέση με τον προκάτοχό του.
Οι πρόσφατες μελέτες τονίζουν επίσης ότι η πειθώ μέσω της Τεχνητής Νοημοσύνης δεν περιορίζεται στην πολιτική. Προηγούμενη έρευνα από το MIT και το Cornell έδειξε ότι αυτά τα μοντέλα θα μπορούσαν να μειώσουν ή να αυξήσουν την πίστη στις θεωρίες συνωμοσίας, την άρνηση της κλιματικής αλλαγής και τον σκεπτικισμό για τα εμβόλια. Ολοι μπορούμε να φανταστούμε τι επιρροή θα έχει αυτό στις ήδη διχασμένες κοινωνίες μας. Και ακόμα περισσότερο τι θα συμβεί όταν, στο άμεσο μέλλον, ο επηρεασμός της πολιτικής άποψης θα ανατεθεί μαζικά στα chatbot…