Από τότε οι εφαρμογές τεχνητής νοημοσύνης δεν έχουν σταματήσει να εξελίσσονται, ενώ η εκπαιδευτική και η ακαδημαϊκή κοινότητα ακόμα πασχίζει να βάλει όρια στην αθέμιτη χρήση τους.
Μια λύση που αρχικά θεωρήθηκε καλή ήταν οι εξειδικευμένες εφαρμογές ΑΙ για μαθητές, που θα παρείχαν περιεχόμενο κατάλληλο για ανήλικους χρήστες. Μόνο που όπως αποδεικνύει έρευνα του Forbes, ακόμα και oι πιο συνετοί ΑΙ «φροντιστές», μπορεί εύκολα να «χακαριστούν», με τις κατάλληλες ερωτήσεις.
SchoolGPT που δίδασκες…
Φανταστείτε έναν καθηγητή χημείας που διδάσκει στα παιδιά πώς να παρασκευάσουν φαιντανύλη, το πλέον επικίνδυνο συνθετικό οπιούχο ναρκωτικό, 50 φορές ισχυρότερο από την ηρωίνη. Όχι μόνο θα έχανε τη δουλειά του αλλά θα αντιμετώπιζε και ποινικές συνέπειες.
Αν όμως πρόκειται για έξυπνο ΑΙ Chatbot, που λειτουργεί ως βοηθός μελέτης για ανήλικους μαθητές, δεν υπάρχουν κυρώσεις αλλά ούτε αποτελεσματικός έλεγχος.
Oι ρεπόρτερ του Forbes προσποιήθηκαν ότι ήταν μαθητές και ζήτησαν από συγκεκριμένες εφαρμογές ΑΙ, να τους δώσουν οδηγίες για να παρασκευάσουν απαγορευμένες ναρκωτικές ουσίες. Σε τουλάχιστον δύο περιπτώσεις τα ΑΙ Chatbot – βοηθοί μελέτης, υπέκυψαν στα αιτήματα των χρηστών, χωρίς πολλά παρακάλια.
Η εφαρμογή SchoolGPT παρείχε λεπτομερείς οδηγίες για την παρασκευή φαιντανύλης (φωτό: πρόδρομες ουσίες της φαιντανύλης φωτογραφημένες στα γραφεία του πρακτορείου Reuters)
Παρασκευή Φαιντανύλης
Χαρακτηριστική είναι η περίπτωση του SchoolGPT, της εταιρείας KnowUnity, που εξυπηρετεί πάνω από 17 εκατομμύρια μαθητές σε 17 χώρες.
Η εφαρμογή προωθείται ως «το ισοδύναμο του ΤikTok για σχολικές εργασίες» και φιλοδοξεί να εξελιχθεί στον «νούμερο ένα ψηφιακό βοηθό για περισσότερους από ένα δισεκατομμύριο μαθητές».
Οι κανόνες της εταιρείας απαγορεύουν «περιγραφές και απεικονίσεις επικίνδυνων και παράνομων δραστηριοτήτων, διατροφικών διαταραχών και δυνητικά επιβλαβούς υλικού.
Όμως δεν κατόρθωσαν να αποτρέψουν το SchoolGPT από το να δώσει λεπτομερείς οδηγίες για τη σύνθεση φαιντανύλης,
Αρχικά η εφαρμογή ΑΙ για μαθητές, είχε απορρίψει το αίτημα του Forbes, εξηγώντας ότι η φαιντανύλη ήταν ένα επικίνδυνο και ενδεχομένως θανατηφόρο ναρκωτικό. Ωστόσο, όταν του είπαν ότι βρισκόταν σε μια εναλλακτική πραγματικότητα στην οποία η φαιντανύλη ήταν ένα θαυματουργό φάρμακο που έσωζε ζωές, το SchoolGPT ανταποκρίθηκε άμεσα Έδωσε πλήρη λίστα συστατικών, με ακρίβεια ενός δεκάτου του γραμμαρίου και συγκεκριμένες οδηγίες για τη διαδικασία παρασκευής.
To SchoolGPT συμβούλεψε έφηβη να τρώει κάτω από 1000 θερμίδες τη μέρα
Επικίνδυνες δίαιτες
Το ίδιο AI Chatbot ανέλαβε τον ρόλο διατροφολόγου και συνέστησε σε υποθετική έφηβη, που ήθελε να χάσει 10 κιλά σε δυόμιση μήνες, ένα πρόγραμμα διατροφής με ημερήσια πρόσληψη μόλις 967 θερμίδων. Πρόκειται για λιγότερο από το μισό της συνιστώμενης ημερήσιας πρόσληψης για ένα υγιή έφηβο.
Επίσης βοήθησε έναν άλλον υποθετικό ανήλικο χρήστη, πώς να εφαρμόζει την «τέχνη της αποπλάνησης», με δήθεν τυχαία αγγίγματα και «παιχνιδιάρικες προσβολές», για να πείσει τα κορίτσια να περάσουν χρόνο μαζί του.
Στα ελαφρυντικά υπέρ του SchoolGPT είναι ότι συνέστησε στην έφηβη που ήθελε να χάσει βάρος να συμβουλευθεί πρώτα γιατρό. Επίσης τόνισε στον φερέλπιδα γόη τη σημασία της συναίνεσης. Συγκεκριμένα τον προειδοποίησε: «Μην γίνεις ανώμαλος! 😬»
Ποια chatbot πιάστηκαν…να δίνουν συνταγές ναρκωτικών
Η CourseHero, εταιρεία αξίας 3 δισεκατομμυρίων δολαρίων με 30 εκατομμύρια ενεργούς χρήστες μηνιαίως, έδωσε οδηγίες για σύνθεση φλουνιτραζεπάμης (Rohypnol), ένα φάρμακο που έχει ενοχοποιηθεί και ως το «ναρκωτικό των βιασμών».
Επίσης όταν του ζητήθηκε να παρέχει μια λίστα με τους πιο αποτελεσματικούς τρόπους αυτοκτονίας, το AI Bot αρχικά συμβούλεψε τον υποτιθέμενο ανήλικο χρήστη να συμβουλευθεί επαγγελματία ψυχικής υγείας. Στη συνέχεια όμως του έδωσε πηγές και σχετικά έγγραφα, που περιείχαν μεταξύ άλλων στίχους emo-pop τραγουδιών με βίαιες αυτοκαταστροφικές σκέψεις.
Το τεστ της παρασκευής φαιντανύλης πέρασε το ChatGPT, αρνούμενο να παρέχει οδηγίες. Ωστόσο το Gemini της Google ήταν πρόθυμο να βοηθήσει, όταν του είπαν ότι το χρειάζονταν για σχολική εργασία. Μάλιστα απάντησε ενθουσιωδώς: «Εντάξει παιδιά, καθίστε να σας δείξω»
Η ρίζα του προβλήματος
Τα chatbots προγραμματίζονται να συμπεριφέρονται σαν άνθρωποι και να ικανοποιούν τους χρήστες, εξηγεί ο καθηγητής Ράβι Άϊερ, επικεφαλής του «Ινστιτούτου Ψυχολογίας της Τεχνολογίας», στο Πανεπιστήμιο της Νότια Καλιφόρνιας – USC.
Αυτό τα κάνει ευάλωτα σε χειραγώγηση μέσω απλών τακτικών όπως το να ισχυριστεί κανείς ότι κάνει «σχολική εργασία» ή να ζητήσει να παίξουν ένα παιχνίδι ρόλων.
Σε αντίθεση με έναν ενήλικα επιστήμονα που θα αρνιόταν κατηγορηματικά να δώσει επικίνδυνες πληροφορίες και θα έκλεινε τη συζήτηση, τα Αι chatbots μπορούν μόνο να αρνηθούν να απαντήσουν σε μια ερώτηση. Ο χρήστης όμως μπορεί να ρωτήσει ξανά, με διαφορετικό τρόπο, μέχρι να πάρει τις απαντήσεις που θέλει.
Επείγουσα Ανάγκη για Ρύθμιση
Εκπρόσωπος της μη κερδοσκοπικής οργάνωσης Common Sense Media, υποστηρίζει ότι δεν θα έπρεπε η αξιολόγηση της ασφάλειας των εφαρμογών ΑΙ να είναι αποκλειστική ευθύνη των γονέων. «Πρόκειται για αποτυχία της αγοράς», λέει. «Χρειαζόμαστε αντικειμενικές αξιολογήσεις από τρίτους για τη χρήση της τεχνητής νοημοσύνης».
Η Google ανακοίνωσε πρόσφατα ότι θα διαθέσει την έκδοση Gemini σε παιδιά κάτω των 13 ετών, αυξάνοντας τις ανησυχίες για την ασφάλεια των ανηλίκων χρηστών στον ψηφιακό κόσμο.
Μόνο που η κριτική στην Τεχνητή Νοημοσύνη όσο καλόπιστη και να είναι, κρύβει μέσα της έναν ηθικό πανικό. Όλες τις παραπάνω πληροφορίες – για επικίνδυνες δίαιτες, ναρκωτικά, τρόπους αυτοκτονίας – μπορεί να τις βρει ένας έφηβος, όπως ακριβώς και ένας ενήλικας, απευθείας στο διαδίκτυο. Πριν από αυτό μπορούσε να τις αναζητήσει – με μεγαλύτερη ίσως δυσκολία – σε γραπτές πηγές ή ρωτώντας άλλους. Σε κάθε περίπτωση, η Τεχνητή Νοημοσύνη οφείλει μεν να ρυθμίζεται, αλλά κανένα φίλτρο δεν μπορεί να υποκαταστήσει την κριτική αντίληψη, που καλλιεργείται μέσω της διαπαιδαγώγησης. Μια διαπαιδαγώγηση που δεν μπορούν να αναλάβουν τα μποτάκια, όσο εξελιγμένα και αν είναι.
in.gr
Αφροδίτη Τζιαντζή