«Η AI μπορεί να μας σκοτώσει όλους»: Ερευνητής παραιτήθηκε από την Anthropic και κρούει τον κώδωνα του κινδύνου
Ένας Βρετανός ερευνητής τεχνητής νοημοσύνης, ο Τζέικομπ Κόξον, ανακοίνωσε την παραίτησή του από την Anthropic, προειδοποιώντας πως η ανάπτυξη ολοένα και πιο ισχυρών συστημάτων ΑΙ, κινείται με εξαιρετικά επικίνδυνους και γρήγορους ρυθμούς.
Ο Κόξον έχει εργαστεί τόσο στην OpenAI όσο και στην Anthropic στην έρευνα εκπαίδευσης μοντέλων, και τώρα έκανε γνωστή την παραίτησή του μέσω του λογαριασμού του στο Χ. Σύμφωνα με όσα είπε, δεν επιθυμεί να εργάζεται πλέον σε έναν τομέα που δημιουργεί συστήματα που μπορούν να αυτοβελτιώνονται, με την εκτίμηση ότι αυτό κάποια στιγμή θα ξεφύγει εντελώς από τον ανθρώπινο έλεγχο.
Η υπερνοημοσύνη που αυτοβελτιώνεται
Ο 27χρονος ερευνητής κατηγόρησε την OpenAI και την Anthropic πως δεν ενεργούν με υπευθυνότητα, καθώς ανταγωνίζεται η μια την άλλη στην ανάπτυξη ολοένα και πιο ισχυρών συστημάτων.
«Οδεύουν με ταχύτητα προς την αυτοβελτιούμενη υπερνοημοσύνη και παίζουν με τις ζωές μας», έγραψε, προειδοποιώντας ότι σύντομα θα μπορούσαν να υπάρχουν υπεράνθρωπα μοντέλα ικανά να παραβιάζουν συστήματα, να αλλάζουν ολόκληρους κλάδους μέσα σε πολύ σύντομο χρονικό διάστημα και να αποκτούν πρόσβαση σε σημαντικούς πόρους.
Ανέφερε ακόμα πως άνθρωποι που εργάζονται στην ανάπτυξη ΑΙ θεωρούν εξαιρετικά πιθανό αυτή η τεχνολογία να έχει μέχρι και καταστροφικές συνέπειες για την ανθρωπότητα μέχρι και το τέλος της δεκαετίας. Υποστηρίζει πως άλλοι ερευνητές, αν και δημόσια μιλάνε χωρίς ανησυχία, σε ιδιωτικές συζητήσεις εκφράζουν έντονους προβληματισμούς.
Η βασική του ένσταση αφορά την ταχύτητα με την οποία εξελίσσεται ο κλάδος, καθώς όπως υποστηρίζει, ο ανταγωνισμός μεταξύ των εταιρειών AI και η προσπάθεια να προλάβει η μία την άλλη καθιστούν δύσκολη την εφαρμογή ουσιαστικών περιορισμών στην ανάπτυξη. Ο Κόξον θεωρεί ότι η δημιουργία υπεράνθρωπης τεχνητής νοημοσύνης δεν μπορεί να γίνει υπεύθυνα χωρίς κυβερνητική παρέμβαση ή κοινά όρια για ολόκληρο τον κλάδο.
Τόνισε ότι αν τα συστήματα αρχίσουν να βελτιώνονται αυτόματα, η κατάσταση θα θυμίζει δυστοπική ταινία φαντασίας, σε σημείο που θα αρνούνται να ακολουθούν ανθρώπινες εντολές.
I resigned from Anthropic today. I spent the last three years doing pretraining research at both OpenAI and Anthropic. Neither company is acting responsibly. They are racing straight to self-improving superintelligence and gambling with our lives. More thoughts below.
— Jacob Coxon (@hilbertspaess) September 9, 2026
Η έκκληση για «φρένο» στην ανάπτυξη
Ο Κόξον είχε προηγουμένως υποστηρίξει μια κοινή δήλωση, την οποία υπέγραψαν περισσότεροι από 1.000 ερευνητές AI, υπέρ του διεθνούς συντονισμού των κυβερνήσεων, με στόχο να υπάρχει η δυνατότητα επιβράδυνσης της ανάπτυξης, εφόσον κριθεί απαραίτητο. Παράλληλα, υποστήριξε ότι η διεθνής συνεργασία παραμένει εφικτή και πως θα πρέπει να εξεταστούν ακόμη και προσωρινοί περιορισμοί στη βελτίωση των δυνατοτήτων των μοντέλων, προκειμένου να αποφευχθεί ένας ανεξέλεγκτος παγκόσμιος αγώνας.
Η αποχώρησή του έρχεται σε μια περίοδο κατά την οποία η Anthropic προετοιμάζεται για πιθανή είσοδο στο χρηματιστήριο, με τις εκτιμήσεις για την αποτίμησή της να φτάνουν σε εξαιρετικά υψηλά επίπεδα. «Θέλετε να ξεκινήσετε μια δοκιμή υπερνοημοσύνης χωρίς να έχετε πλήρη κατανόηση του τρόπου λειτουργίας του “μυαλού” της;», διερωτήθηκε, καλώντας τους ερευνητές του κλάδου να αναλογιστούν αν η σημερινή πορεία ανάπτυξης της AI είναι πράγματι η σωστή.
