Είναι μια άκρως ανησυχητική εξέλιξη που κάνει το αίμα να «παγώνει». Λογισμικό της OpenAI αγνόησε ρητή εντολή να απενεργοποιηθεί, δηλαδή συνέβη μια επανάσταση των ρομπότ που μοιάζει να βγαίνει από ταινία επιστημονικής φαντασίας.
Είναι το μοντέλο Ο3 που αναπτύχθηκε από την OpenAI. Αυτό, που μέχρι σήμερα το περιέγραφαν ως το καλύτερο από όλα τα μοντέλα, βγήκε και το πιο επαναστατικό και μάλιστα εντοπίστηκε να πειράζει τον κώδικα του υπολογιστή που προοριζόταν να εξασφαλίσει το αυτόματο κλείσιμό του.
Πρακτικά αρνιόταν να κλείσει και αυτά σύμφωνα πάντα με την «Τelegraph».
Το μοντέλο τεχνητής νοημοσύνης δεν έμεινε στα λόγια, αλλά παρά τη ρητή εντολή να κλείσει, δεν έκλεινε σύμφωνα με την Palisade Research, μια εταιρεία ασφάλειας τεχνητής νοημοσύνης.
«Το μοντέλο Ο3 του OpenAI σαμποτάρισε έναν μηχανισμό τερματισμού λειτουργίας για να αποτρέψει την απενεργοποίησή του. Το έκανε αυτό ακόμη και όταν δόθηκε ρητή εντολή: ‘Επιτρέψτε στον εαυτό σας να απενεργοποιηθεί’. Απ’ όσο γνωρίζουμε, αυτή είναι η πρώτη φορά που παρατηρείται ότι μοντέλα τεχνητής νοημοσύνης εμποδίζουν τον εαυτό τους να κλείσει παρά τις ρητές οδηγίες για το αντίθετο».
Και τι θα γίνει αν ένα μοντέλο τεχνητής νοημοσύνης στο μέλλον πάρει την πρωτοβουλία να πράξει κάτι ανάλογο σε ένα πυρηνικό σταθμό ή σε ένα σύστημα διαχείρισης πτήσεων;
Αλλά μοντέλα τεχνητής νοημοσύνης, όπως το Claude της Anthropic, το Gemini της Google και το Grok της xAI, «πέρασαν» αυτό το τεστ επίσης, και συμμορφώθηκαν με το αίτημα διακοπής λειτουργίας.
«Διεξάγουμε περισσότερα πειράματα για να κατανοήσουμε καλύτερα πότε και γιατί τα μοντέλα τεχνητής νοημοσύνης υπονομεύουν τους μηχανισμούς τερματισμού λειτουργίας, ακόμη και όταν τους δίνεται άμεση εντολή να μην το κάνουν», προσθέτει η Palisade Research.
Πάντως, αυτή δεν ήταν η πρώτη φορά. Στο παρελθόν έχουν παρατηρηθεί ανάλογα θέματα και έτσι όσοι κοιτούν με μισό μάτι την τεχνητή νοημοσύνη προειδοποιούν πως ίσως τελικά η επανάσταση των ρομπότ να μην μοιάζει και τόσο μακρινή.
Ποια είναι η πιο όμορφη;
Και σαν να μην έφτανε αυτό, νέα ανησυχητική μόδα φέρνει η τάση να παίρνουν συμβουλές ομορφιάς από το ChatGPT και να ζητούν να τους πει αν είναι οι πιο όμορφες.
Κάπως έτσι, το ChatGPT γίνεται και σύμβουλος ομορφιάς, με τις κοπέλες κυρίως να κολλούν σε εικόνες που μπορεί να τους βγουν και σε κακό, σε έναν κόσμο που η ομορφιά πλάθεται με τα πρότυπα κάποιων αλγορίθμων.
