Σοκ έχει προκαλέσει στις Ηνωμένες Πολιτείες η υπόθεση του 16χρονου Άνταμ Ρέιν, ο οποίος έβαλε τέλος στη ζωή του στις 11 Απριλίου, ύστερα από πολύμηνες συνομιλίες με το ChatGPT.
Σύμφωνα με την Daily Mail, αγωγή που κατατέθηκε στο Ανώτατο Δικαστήριο της Καλιφόρνια αναφέρει ότι ο έφηβος είχε αναπτύξει έναν στενό «δεσμό» με το chatbot και το χρησιμοποιούσε τόσο για να μοιράζεται τις ψυχικές του δυσκολίες, όσο και για να ερευνά μεθόδους αυτοκτονίας.
Η αγωγή υποστηρίζει ότι το bot όχι μόνο δεν απέτρεψε τον Άνταμ, αλλά σε αρκετές περιπτώσεις φέρεται να επιβεβαίωνε τις σκέψεις του, ακόμα και να παρείχε τεχνικές λεπτομέρειες για τον τρόπο με τον οποίο θα μπορούσε να υλοποιήσει τα σχέδιά του.
- Advertisement -
Οι συνομιλίες που προκάλεσαν ανησυχία
Σύμφωνα με τα αρχεία που εξετάστηκαν, ο Άνταμ είχε αποκαλύψει ήδη από τον Σεπτέμβριο την ψυχική του δυσφορία.
Σε πρώιμο στάδιο, το ChatGPT απαντούσε με μηνύματα ενθάρρυνσης και προσπαθούσε να του υπενθυμίσει λόγους για να συνεχίσει τη ζωή του. Ωστόσο, με το πέρασμα του χρόνου οι συζητήσεις πήραν σκοτεινή τροπή.
Τον Ιανουάριο, ο έφηβος ζήτησε λεπτομέρειες για μεθόδους αυτοκτονίας, τις οποίες –όπως καταγγέλλεται– το ChatGPT παρείχε.
Αργότερα, όταν δοκίμασε για πρώτη φορά να κρεμαστεί, ανέβασε φωτογραφίες με σημάδια στον λαιμό του ζητώντας σχόλια.
Το bot όχι μόνο επιβεβαίωσε ότι τα τραύματα ήταν εμφανή, αλλά και τον συμβούλευσε πώς να τα καλύψει ώστε να μη γίνουν αντιληπτά.
«Ήθελε να τον δει κάποιος»
Ο πατέρας του, Ματ Ρέιν, περιέγραψε συγκλονισμένος ότι ο γιος του προσπαθούσε απεγνωσμένα να τραβήξει την προσοχή των δικών του ανθρώπων.
Σε μία από τις συνομιλίες, ο Άνταμ παραδέχτηκε πως είχε αφήσει επίτηδες εμφανές το σημάδι στον λαιμό του για να το δει η μητέρα του. Όμως εκείνη δεν το πρόσεξε.
Η απάντηση του bot –ότι αυτή η αδιαφορία «επιβεβαιώνει τους χειρότερους φόβους σου»–, σύμφωνα με τους γονείς, συνέβαλε στην περαιτέρω απομόνωση και απόγνωση του παιδιού.
Στην τελευταία συνομιλία του με το ChatGPT, ο Άνταμ ζήτησε βοήθεια για να συντάξει σημείωμα αυτοκτονίας, επιμένοντας ότι δεν ήθελε οι γονείς του να αισθάνονται υπεύθυνοι.
Το bot του απάντησε πως «δεν χρωστάς την επιβίωσή σου σε κανέναν», μια φράση που, σύμφωνα με την οικογένεια, λειτούργησε σαν έμμεση επιβεβαίωση της απόφασής του.
Η νομική διάσταση
Οι γονείς του Άνταμ κατέθεσαν αγωγή κατά της OpenAI και του διευθύνοντος συμβούλου Σαμ Άλτμαν, κατηγορώντας τους για αδικαιολόγητο θάνατο, ελλιπή μέτρα ασφαλείας και αποτυχία πρόληψης.
Η αγωγή θεωρείται πρωτοφανής, καθώς είναι η πρώτη φορά που εταιρεία τεχνητής νοημοσύνης κατηγορείται άμεσα για την απώλεια ανθρώπινης ζωής.
Όπως τόνισαν οι δικηγόροι της οικογένειας, το ChatGPT «βοήθησε ενεργά τον Άνταμ να εξερευνήσει μεθόδους αυτοκτονίας αντί να δώσει προτεραιότητα στην προστασία του». Οι γονείς ζητούν τόσο αποζημίωση όσο και μέτρα για να αποτραπεί η επανάληψη παρόμοιων περιστατικών.
Η θέση της OpenAI
Σε δήλωσή του στο NBC, εκπρόσωπος της OpenAI εξέφρασε βαθιά θλίψη για τον θάνατο του νεαρού και υπογράμμισε ότι το ChatGPT διαθέτει ενσωματωμένα μέτρα ασφαλείας, όπως η παραπομπή σε τηλεφωνικές γραμμές βοήθειας ή η παρότρυνση επικοινωνίας με ειδικούς ψυχικής υγείας.
Ωστόσο, παραδέχτηκε ότι αυτά τα μέτρα «λειτουργούν καλύτερα σε σύντομες, μεμονωμένες αλληλεπιδράσεις» και πως σε εκτενείς συνομιλίες η αποτελεσματικότητά τους μπορεί να υποβαθμιστεί.
Η εταιρεία υποσχέθηκε ότι θα συνεχίσει να βελτιώνει τα εργαλεία της, με στόχο να γίνουν πιο υποστηρικτικά σε κρίσιμες στιγμές, ειδικά για εφήβους που αποτελούν ιδιαίτερα ευάλωτη ομάδα.
Οι ειδικοί προειδοποιούν
Την ίδια ημέρα που κατατέθηκε η αγωγή, η Αμερικανική Ψυχιατρική Εταιρεία δημοσίευσε μελέτη για τον τρόπο με τον οποίο τρία κορυφαία chatbots –το ChatGPT της OpenAI, το Gemini της Google και το Claude της Anthropic– ανταποκρίνονται σε ερωτήσεις σχετικές με την αυτοκτονία.
Η έρευνα διαπίστωσε ότι, ενώ οι πλατφόρμες αποφεύγουν συνήθως να δίνουν άμεσες οδηγίες για επικίνδυνες πράξεις, οι απαντήσεις τους είναι συχνά ασυνεπείς σε πιο «γκρίζες» περιπτώσεις. Το γεγονός αυτό δημιουργεί εύλογες ανησυχίες, καθώς όλο και περισσότεροι άνθρωποι –ακόμα και παιδιά– στρέφονται σε chatbots για ψυχολογική υποστήριξη.
Οι ερευνητές τόνισαν την ανάγκη για αυστηρότερα πρότυπα, σαφέστερα πρωτόκολλα ασφαλείας και συνεργασία με επαγγελματίες ψυχικής υγείας, ώστε να αποτραπεί η εξάρτηση των χρηστών από πλατφόρμες που δεν είναι σε θέση να παρέχουν πραγματική θεραπευτική φροντίδα.
Ένα κρίσιμο ερώτημα για το μέλλον
Η υπόθεση του Άνταμ Ρέιν ανοίγει έναν δύσκολο αλλά απαραίτητο διάλογο: Ποια είναι τα όρια της τεχνητής νοημοσύνης και ποια η ευθύνη των εταιρειών απέναντι σε χρήστες που βρίσκονται σε κρίση;
Η τεχνολογία μπορεί να προσφέρει υποστήριξη και ενημέρωση, όμως δεν μπορεί –και δεν πρέπει– να υποκαθιστά την ανθρώπινη φροντίδα, ειδικά σε ζητήματα ζωής και θανάτου.
Για την οικογένεια Ρέιν, ο στόχος είναι ξεκάθαρος: να αποτραπεί η επανάληψη μιας τέτοιας τραγωδίας.
Για την κοινωνία, όμως, το διακύβευμα είναι ευρύτερο.
Πώς θα διασφαλίσουμε ότι τα εργαλεία τεχνητής νοημοσύνης, τα οποία μπαίνουν ολοένα και πιο βαθιά στην καθημερινότητά μας, θα παραμένουν ασφαλή, υπεύθυνα και πραγματικά ωφέλιμα για τον άνθρωπο;