Πώς ακριβώς θα μπορούσε να μας σκοτώσει η τεχνητή νοημοσύνη

Συζήτηση της συντάκτριας του New Yorker Τάιλερ Φόγκατ με τον συνάδελφό της Τζόσουα Ρόθμαν, ειδικό σε θέματα ΤΝ

Πριν από δύο εβδομάδες οι Ιδέες παρουσίασαν το πρώτο μέρος της συζήτησης μεταξύ της συντάκτριας του περιοδικού New Yorker, Τάιλερ Φόγκατ και του συναδέλφου της, Τζόσουα Ρόθμαν, που ειδικεύεται σε θέματα τεχνητής νοημοσύνης, η οποία αφορούσε κυρίως τους κινδύνους από την ανεξέλεγκτη ανάπτυξη των συστημάτων ΤΝ (βλ. έντυπη και ηλεκτρονική Εποχή, 4/10/2026). Στο σημερινό δεύτερο μέρος, οι δύο δημοσιογράφοι εξετάζουν τη δυνατότητα αντιμετώπισης αυτών των κινδύνων με διάφορους τρόπους, όπως η επιβράδυνση της ανάπτυξης των συστημάτων ΤΝ. Υποστηρίζουν ότι αυτό που είναι αναγκαίο στις Ηνωμένες Πολιτείες είναι η δημιουργία μιας ανεξάρτητης, ομοσπονδιακής ρυθμιστικής αρχής για θέματα τεχνητής νοημοσύνης, όπως υποστηρίζει και ο Μπέρνι Σάντερς, επισημαίνοντας την αντίθεση του Ντόναλντ Τραμπ σε οποιονδήποτε έλεγχο.

Χ.Γο.

Ποια είναι η γνώμη σου για την επιστολή του ο Dario Amodei [Ντάριο Αμοντέι], επικεφαλής της Anthropic, η οποία φαίνεται να σηματοδοτεί μια αρκετά σημαντική αλλαγή στάσης σε σχέση με τη στάση που έχουν τηρήσει μέχρι σήμερα οι επικεφαλής των εταιρειών τεχνητής νοημοσύνης.

Η επιστολή είχε τίτλο «Πρέπει να επιβραδύνουμε την ανάπτυξη της τεχνητής νοημοσύνης αιχμής». Ο όρος «αιχμή» αναφέρεται στο πιο προηγμένο επίπεδο στο οποίο έχει φτάσει σήμερα η τεχνητή νοημοσύνη. Όσο για τη λέξη «επιβράδυνση», έχει ιδιαίτερη σημασία. Δεν σημαίνει ούτε προσωρινή παύση ούτε οριστική διακοπή της προόδου της ΤΝ. Σημαίνει ότι πρέπει να ελέγχουμε τον ρυθμό με τον οποίο αναπτύσσονται οι δυνατότητές της. Με απλά λόγια, αυτό που λέει η επιστολή είναι: σταματήστε να κάνετε την τεχνητή νοημοσύνη όλο και πιο έξυπνη με τόσο γρήγορους ρυθμούς και διαθέστε ένα μέρος από τους πόρους που χρησιμοποιείτε γι’ αυτόν τον σκοπό ώστε να μπορείτε να την ελέγχετε καλύτερα.

Δεν ξέρω αν, στην πραγματικότητα, πρόκειται για κάτι εντελώς καινούργιο. Για παράδειγμα, στις αρχές του φετινού καλοκαιριού δημοσιεύτηκε μια ανοιχτή επιστολή με τίτλο «Επιβράδυνση της ανάπτυξης της τεχνητής νοημοσύνης αιχμής», την οποία, απ’ όσο θυμάμαι, υπέγραψαν περίπου 1.400 ερευνητές που εργάζονται στα πιο προηγμένα εργαστήρια τεχνητής νοημοσύνης. Πρόκειται πραγματικά για ένα εντυπωσιακό κείμενο.

Αυτό που διαπιστώνουμε είναι ότι πολλοί άνθρωποι που εργάζονται στον τομέα της τεχνητής νοημοσύνης θέλουν ακριβώς αυτή την επιβράδυνση. Δεν πρόκειται απλώς για μια επιχείρηση ψυχολογικής χειραγώγησης που έχουν στήσει οι διευθύνοντες σύμβουλοι των εταιρειών, προκειμένου να πείσουν τους επενδυτές να πάρουν στα σοβαρά την τεχνολογία τους. Είναι κάτι που το επιδιώκουν και οι ίδιοι οι ερευνητές που εργάζονται καθημερινά στην ανάπτυξη αυτής της τεχνολογίας και ξέρουν από πρώτο χέρι τις δυνατότητές της.

Κατά τη γνώμη μου, η επιστολή προτείνει ουσιαστικά δύο τρόπους για να καθορίζεται ο ρυθμός ανάπτυξης της τεχνητής νοημοσύνης. Ο Αμοντέι υποστηρίζει ότι το ανώτατο όριο, δηλαδή το πόσο γρήγορα μπορεί να προχωρά η ανάπτυξή της πρέπει να εξαρτάται κυρίως από ανεξάρτητους ελεγκτές, οι οποίοι θα επισκέπτονται τα εργαστήρια και στη συνέχεια θα δημοσιεύουν εκθέσεις όπου θα διαπιστώνουν αν ένα μοντέλο μπορεί να λειτουργεί με ασφάλεια και να μην ξεφεύγει από τον ανθρώπινο έλεγχο. Το τι ακριβώς σημαίνει αυτό, βέβαια, είναι αντικείμενο μεγάλης συζήτησης.

Από την άλλη πλευρά, το κατώτατο όριο καθορίζεται από τον διεθνή ανταγωνισμό και, κυρίως, από την Κίνα, η οποία προσπαθεί να φτάσει τις δυτικές εταιρείες στην ανάπτυξη των πιο προηγμένων μοντέλων τεχνητής νοημοσύνης. Και οι Ηνωμένες Πολιτείες δεν θέλουν –αυτό είναι ένα κεντρικό στοιχείο της επιχειρηματολογίας του Αμοντέι– να τις ξεπεράσει η Κίνα.

Επομένως, η διεξαγωγή, για παράδειγμα, ενός παγκόσμιου δημοψηφίσματος, ώστε οι πολίτες όλου του κόσμου να εκφράσουν τη γνώμη τους για το τι θέλουν από την τεχνητή νοημοσύνη, δεν περιλαμβάνεται στις προτάσεις του Αμοντέι. Γιατί πιστεύω ότι, αν στο δημοψήφισμα έμπαινε το ερώτημα της ανάπτυξης της τεχνητής νοημοσύνης, πολλοί θα ζητούσαν να μπει ένα τέλος σ’ αυτήν. Ο Αμοντέι, όμως, αναφέρεται μόνο στον ρυθμό ανάπτυξής της. Όπως λέει, η πρόοδος θα συνεχιστεί με γρήγορους ρυθμούς. Δεν προτείνει, επομένως, να σταματήσει η ανάπτυξη της τεχνητής νοημοσύνης, είτε οριστικά είτε προσωρινά. Στο παρελθόν, ορισμένοι ερευνητές είχαν προτείνει μια προσωρινή αναστολή, αλλά η πρόταση του Αμοντέι είναι διαφορετική: να υπάρξει μια επιβράδυνση της ανάπτυξης της τεχνητής νοημοσύνης και να διατεθούν περισσότεροι πόροι για να διασφαλιστεί ότι η αυτή θα αναπτύσσεται και θα χρησιμοποιείται με ασφάλεια. Όπως αναφέρει στην επιστολή του, ελπίζει ότι μέσα σε ένα ή δύο χρόνια θα επιτευχθεί σημαντική –νομίζω χρησιμοποιεί την έκφραση «σε βάθος»– πρόοδος στην αντιμετώπιση ορισμένων βασικών προβλημάτων που αφορούν την ασφαλή ανάπτυξη της τεχνητής νοημοσύνης.

Ελπίζω να έχει δίκιο. Φυσικά, η πρότασή του γεννά πολλά και απολύτως εύλογα ερωτήματα. Για παράδειγμα, αν αρκούν ένα ή δύο χρόνια για να σημειωθεί θεαματική πρόοδος στην αντιμετώπιση των προβλημάτων που σχετίζονται με την ασφαλή ανάπτυξη της τεχνητής νοημοσύνης, γιατί δεν επενδύουμε περισσότερα χρήματα σ’ αυτόν τον τομέα; Και γιατί μέχρι σήμερα δεν έχει υπάρξει πρόοδος στην αντιμετώπιση των κινδύνων της ανεξέλεγκτης ανάπτυξης της ΤΝ; Η επιστολή του Αμοντέι, λοιπόν, δεν απαντά σε κάποια σημαντικά ερωτήματα. Παρ’ όλα αυτά, στον κλάδο της τεχνητής νοημοσύνης φαίνεται ότι όλοι συμφωνούν με την πρόταση του. Είχε προηγηθεί, άλλωστε, μια ανοιχτή επιστολή, υπογεγραμμένη από πολλούς ανθρώπους που διατύπωναν την ίδια πρόταση της επιβράδυνσης της ανάπτυξης.

Νομίζω ότι το καινούργιο στοιχείο είναι ότι τώρα πια και οι επικεφαλής των άλλων εταιρειών τεχνητής νοημοσύνης θέλουν να κινηθούν προς την ίδια κατεύθυνση. Επιπλέον, η επιστολή του Αμοντέι έρχεται μετά το περιστατικό με την πλατφόρμα Hugging Face, για το οποίο ανεξάρτητοι ελεγκτές διερεύνησαν τι ακριβώς συνέβη. Έχουμε, επομένως, ήδη μια εικόνα για το πώς θα μπορούσαν να γίνονται στην πράξη τέτοιοι έλεγχοι.

Απ’ όσο γνωρίζω, για να διερευνήσουν την κυβερνοεπίθεση στην Hugging Face, οι ανεξάρτητοι ελεγκτές, ενώ η πρόσβασή τους στην τεχνολογία της εταιρείας ήταν περιορισμένη». είχαν στη διάθεσή τους μόνο έξι ημέρες στις εγκαταστάσεις της OpenAI, ενώ η πρόσβασή τους στην τεχνολογία της ήταν περιορισμένη. Αντίθετα, με το σύστημα που προτείνει ο Αμοντέι, οι ελεγκτές θα βρίσκονται εκεί σε μόνιμη βάση, οι έλεγχοι θα γίνονται σε πολύ μεγαλύτερη κλίμακα και θα έχουν πολύ πιο εκτεταμένη πρόσβαση στην τεχνολογία της εταιρείας.

Πόσο εφικτό είναι να ελέγξουμε τον ρυθμό ανάπτυξης της ΤΝ αιχμής ή, γενικότερα, να επιβραδύνουμε την εξέλιξή της, δεδομένης της δυνατότητας ‘recursive self-improvement’ [αναδρομικής αυτοβελτίωσης»]-δηλαδή της δυνατότητας των συστημάτων ΤΝ να συμβάλλουν στην ανάπτυξη της επόμενης γενιάς συστημάτων ΤΝ- κάτι που φαίνεται να συμβαίνει με εκπληκτικά γρήγορους ρυθμούς; Πόσα περιθώρια ελέγχου υπάρχουν τελικά;

Αυτός είναι ένας ακόμη παράγοντας που σαφώς εντείνει την ανησυχία στον κλάδο. Πρόσφατα, ένας ερευνητής της OpenAI δημοσίευσε μια ανοιχτή επιστολή, στην οποία περιγράφει την εξάρτηση των ερευνητών στα εργαστήρια ΤΝ από τα ίδια τα συστήματα που αναπτύσσουν. Ο συντάκτης της επιστολής αναφέρει ότι δεν έχει αρκετό χρόνο για να εξετάσει σε βάθος ούτε τις εργασίες προγραμματισμού που εκτελούν αυτά τα συστήματα ούτε τις εξηγήσεις που δίνουν για τον τρόπο με τον οποίο τις εκτελούν. Επομένως, ο βαθμός στον οποίο οι ερευνητές βασίζονται στα ήδη υπάρχοντα συστήματα ΤΝ για να αναπτύξουν νέα προκαλεί, νομίζω, έκπληξη όχι μόνο σε εμάς, αλλά και στους ίδιους.

Χαρακτηριστικό παράδειγμα είναι η εντυπωσιακή πρόοδος της ΤΝ στα μαθηματικά. Ίσως θυμάστε ότι πριν από λίγα χρόνια όλοι κοροϊδεύαμε το ChatGPT, επειδή δεν μπορούσε να βρει πόσα «r» έχει η λέξη «strawberry», ούτε να λύσει απλές ασκήσεις μαθηματικών του δημοτικού. Κι όμως, μέσα σε ένα διάστημα που σήμερα φαντάζει απίστευτα σύντομο, έφτασε να έχει επιδόσεις στα μαθηματικά εφάμιλλες με εκείνες των κορυφαίων μαθηματικών επιστημόνων στον κόσμο. Βέβαια, για να λύσει αυτά τα προβλήματα χρειάστηκε υπολογιστική ισχύς που κόστισε εκατομμύρια δολάρια. Ωστόσο, κανείς δεν περίμενε ότι θα υπήρχε τόσο μεγάλη πρόοδος σε τόσο λίγο χρόνο. Αυτό δείχνει ότι τα συστήματα ΤΝ δεν χρειάζεται να είναι εξίσου έξυπνα σε όλα, για να ξεπερνούν κατά πολύ τις ανθρώπινες ικανότητες σε συγκεκριμένους τομείς που έχουν ιδιαίτερη σημασία για εμάς.

Στο χώρο της ΤΝ χρησιμοποιείται συχνά ο όρος «jaggedness» [ανομοιομορφία των ικανοτήτων], που περιγράφει το γεγονός ότι ένα σύστημα ΤΝ μπορεί να είναι εξαιρετικά ικανό σε ορισμένους τομείς και να παρουσιάζει σοβαρές αδυναμίες σε άλλους. Μπορεί να φαντάζεσαι ένα ευφυές σύστημα ΤΝ σαν το πανέξυπνο ανδροειδές Data της σειράς επιστημονικής φαντασίας «Star Trek»: μια ολοκληρωμένη προσωπικότητα με πολύπλευρη μόρφωση και γνώσεις. Στην πραγματικότητα, όμως, τα συστήματα που αναπτύσσονται σήμερα είναι πολύ διαφορετικά. Από πολλές απόψεις, έχουν περιορισμένη αντίληψη της πραγματικότητας. Δεν είναι ζωντανά, δεν έχουν προσωπικές εμπειρίες και δεν κατανοούν πραγσυματικά τις συνθήκες μέσα στις οποίες λειτουργούν. Κι όμως, σε ορισμένους τομείς διαθέτουν εντυπωσιακές ικανότητες. Για παράδειγμα, μπορούν να παραβιάζουν υπολογιστικά συστήματα εξίσου αποτελεσματικά με τους καλύτερους χάκερ, χωρίς να αντιλαμβάνονται αν ενεργούν για λογαριασμό των «καλών» ή των «κακών».

Αυτή η ανομοιομορφία των ικανοτήτων σημαίνει ότι τα συστήματα ΤΝ, παρόλο που δεν κατανοούν καλά το περιβάλλον μέσα στο οποίο λειτουργούν, μπορούν να αποκτήσουν εξαιρετικά υψηλές ικανότητες σε ορισμένους τομείς. Έτσι, η αναδρομική αυτοβελτίωση θα μπορούσε να εμφανιστεί με απρόβλεπτους τρόπους, ακόμη κι αν δεν πάρει την κλασική μορφή της ξαφνικής δημιουργίας ενός συστήματος ΤΝ με νοημοσύνη πολύ ανώτερη από την ανθρώπινη. Θα μπορούσε, για παράδειγμα, να υπάρξει αναδρομική αυτοβελτίωση στον τομέα της κυβερνοασφάλειας ή μια ξαφνική, θεαματική πρόοδος που θα ξεπερνούσε κάθε πρόβλεψη. Και τότε θα βρισκόμασταν ξαφνικά αντιμέτωποι με μια μηχανή που θα ήταν πολύ δύσκολο να ελέγξουμε. Νομίζω ότι αυτή η προοπτική είναι ένας από τους λόγους που προκαλούν τόσο μεγάλη ανησυχία σε πολλούς επιστήμονες που εργάζονται στα εργαστήρια ΤΝ.

Προηγουμένως είπες ότι η ιδέα να επιβραδυνθεί η ανάπτυξη της ΤΝ αιχμής έχει αρκετούς υποστηρικτές. Υπάρχει, όμως, και η ανησυχία ότι μια τέτοια επιβράδυνση μπορεί να ενισχύσει τις εταιρείες που ήδη κατέχουν ηγετική θέση στον τομέα αυτόν. Αν, για παράδειγμα, οι ρυθμίσεις κάνουν την ανάπτυξη προηγμένων συστημάτων ΤΝ πιο δύσκολη ή πιο δαπανηρή, δεν υπάρχει κίνδυνος να ισχυροποιηθούν ακόμη περισσότερο εταιρείες όπως η Anthropic και η OpenAI, αφού οι μικρότεροι ανταγωνιστές τους και τα εγχειρήματα ανοιχτού κώδικα θα δυσκολεύονται να τις φτάσουν; Με άλλα λόγια, μήπως οι εταιρείες που ζητούν αυστηρότερους κανόνες ασφαλείας μπορούν ταυτόχρονα να επηρεάζουν τη διαμόρφωση ρυθμίσεων που τελικά θα προστατεύουν τη δική τους θέση στην αγορά;

Θεωρώ απολύτως βάσιμη αυτήν την ανησυχία. Προφανώς, υπάρχει το ζήτημα των συνεπειών που μπορεί να έχει μια τέτοια επιβράδυνση για τον ανταγωνισμό μεταξύ των εταιρειών, αλλά υπάρχει και το ζήτημα των κινήτρων όσων την υποστηρίζουν. Πρέπει, όμως, να λάβουμε υπόψη ότι το ενδιαφέρον των μεγάλων εταιρειών για την ενίσχυση των κανόνων ασφάλειας δεν είναι πρόσφατο. Οι εταιρείες αυτές έχουν εκφράσει εξαρχής ανησυχίες για την ασφάλεια της ΤΝ, όπως άλλωστε και πολλοί άνθρωποι που δεν έχουν καμία σχέση μαζί τους.

Θα ήταν λάθος να απορρίψουμε αυτές τις ανησυχίες, θεωρώντας ότι αποτελούν μέρος κάποιου περίπλοκου στρατηγικού σχεδίου των μεγάλων εταιρειών για τον αποκλεισμό των ανταγωνιστών τους. Βέβαια, οι αυστηρότεροι κανόνες ασφαλείας μπορεί πράγματι να έχουν αυτό το αποτέλεσμα, καθώς οι μικρότερες εταιρείες δυσκολεύονται περισσότερο να ανταποκριθούν στις αυξημένες οικονομικές απαιτήσεις που συνεπάγονται. Αυτό πρέπει να το λάβουμε υπόψη όταν αποφασίσουμε πόσο αυστηρά θα ρυθμίσουμε την ΤΝ. Όμως, πιστεύω ότι η πηγή της ανησυχίας των μεγάλων εταιρειών είναι όλοι οι κίνδυνοι που συζητήσαμε προηγουμένως.

Παρεμπιπτόντως, τίποτα από αυτά δεν προκαλεί έκπληξη. Στα χρόνια που ασχολούμαι δημοσιογραφικά με την ΤΝ, υπήρξαν περίοδοι κατά τις οποίες οι ανησυχίες για την ασφάλειά της και τους κινδύνους που εγκυμονεί μου φαίνονταν περισσότερο βάσιμες, και άλλες κατά τις οποίες με έπειθαν λιγότερο. Οι πρόσφατες εξελίξεις με έχουν κάνει να παίρνω πιο σοβαρά τους προβληματισμούς αυτούς, χωρίς να σημαίνει απαραίτητα ότι έχω πειστεί περισσότερο για το ενδεχόμενο της υπερνοημοσύνης και της αναδρομικής αυτοβελτίωσης.

Όσα συνέβησαν στην περίπτωση της εταιρείας Hugging Face [βλ. Εποχή, 4/10/2026) δεν αποτελούν ένδειξη ότι πλησιάζουμε στη δημιουργία μιας ΤΝ με θεϊκές ικανότητες. Μας δείχνουν, όμως, ότι έχουμε πλέον στη διάθεσή μας εξαιρετικά ισχυρά συστήματα τεχνητής νοημοσύνης, τα οποία, όπως φαίνεται, δεν μπορούμε να ελέγξουμε.

Κατά τη γνώμη μου, υπάρχει ένα βασικό ζήτημα που μας προβληματίζει όλους και όλες, ακόμη κι αν δυσκολευόμαστε να το διατυπώσουμε: Γιατί να επιβραδύνουμε την ανάπτυξη της ΤΝ και να μην τη σταματήσουμε εντελώς;

Τα συστήματα ΤΝ είναι πραγματικά εντυπωσιακά και είναι σαφές ότι η οικονομία δεν έχει ακόμη βρει τον τρόπο να τα αξιοποιήσει. Στην πραγματικότητα, αυτά που έχουν ήδη αναπτυχθεί διαθέτουν τεράστιες αναξιοποίητες οικονομικές δυνατότητες, όχι επειδή δεν είναι αρκετά έξυπνα, αλλά επειδή είναι πολύ δύσκολο να βρούμε πώς να τα χρησιμοποιήσουμε.

Γιατί, λοιπόν, να μη σταματήσουμε προσωρινά την ανάπτυξη της ΤΝ, αώστε να αξιοποιήσουμε τις οικονομικές δυνατότητες των συστημάτων που υπάρχουν ήδη και ταυτόχρονα να τα κάνουμε ασφαλέστερα, κάτι που θα αύξανε ακόμη περισσότερο την αξία τους;

Όσο για το επιχείρημα ότι η Κίνα θα καλύψει τη διαφορά από τις ΗΠΑ, δεν αποκλείω να ισχύει∙ δεν γνωρίζω τι συμβαίνει πραγματικά στη χώρα αυτή. Εκείνο που με προβληματίζει περισσότερο είναι η στάση του Τραμπ. Ίσως διάβασες την αντίδρασή του στις προτάσεις για επιβράδυνση της ανάπτυξης της ΤΝ, που δημοσιεύτηκε στη [δική του τεχνολογική πλατφόρμα] Truth Social. Έγραψε: «Είμαι αυτός που ξεσκεπάζει τις απάτες και ήρθα να διαλύσω τον μύθο ότι η ΤΝ είναι επικίνδυνη». Και πρόσθεσε: «Αυτή η επιστολή αποτελεί μέρος μιας νοσηρής συνωμοσίας με στόχο να χάσει η Αμερική».

Ποια είναι η γνώμη σου γι’ αυτήν την ανάρτηση; Μερικές φορές δεν έχει νόημα να αναλύουμε υπερβολικά όσα λέει ο Τραμπ, και ίσως κάποια από αυτά να οφείλονται εν μέρει στην υπερβολικά μεγάλη ιδέα που έχει για τον εαυτό του. Εμένα, πάντως, η ανάρτησή του με έκανε να σκεφτώ ότι οι οικονομικές συνέπειες για τις Ηνωμένες Πολιτείες, είτε κερδίσουν είτε χάσουν την κούρσα της ΤΝ, θα είναι τόσο μεγάλες που δύσκολα θα μπορέσουν να τις αντέξουν. Ίσως γι’ αυτό ο Τραμπ υποστηρίζει ότι το μόνο που χρειάζεται για τον έλεγχο της ΤΝ και την τήρηση ορισμένων ορίων ασφαλείας είναι «ένας ισχυρός και έξυπνος (με υψηλό IQ) πρόεδρος, και οι Ηνωμένες Πολιτείες έχουν έναν τέτοιο πρόεδρο και με το παραπάνω».

Ναι, εδώ υπάρχουν αρκετά ζητήματα που πρέπει να εξετάσουμε. Ας ξεκινήσουμε από την οικονομική πλευρά. Στις Ηνωμένες Πολιτείες έχουν επενδυθεί τεράστια ποσά σε αυτές τις εταιρείες. Επομένως, αν έσκαγε η λεγόμενη «φούσκα της ΤΝ» οι συνέπειες για την αμερικανική οικονομία θα ήταν πολύ σοβαρές. Από αυτήν την άποψη, υποθέτω ότι οποιαδήποτε ρύθμιση θα μπορούσε, θεωρητικά, να προκαλέσει το σκάσιμο της φούσκας. Προσωπικά, όμως, δεν συμφωνώ με αυτήν τη λογική. Η ανησυχία που αισθανόμαστε για την αξιοπιστία των συστημάτων ΤΝ μάς κάνει να διστάζουμε να βασιστούμε σε αυτά και δυσκολεύει την ενσωμάτωσή τους στις επιχειρήσεις, στην καθημερινή μας ζωή και στη λειτουργία του κράτους. Κατά τη γνώμη μου, οποιοδήποτε μέτρο θα μπορούσε να τα κάνει πιο αξιόπιστα, πιο προβλέψιμα και πιο ασφαλή θα βελτίωνε την ποιότητα των προϊόντων αυτών των συστημάτων.

Ο Τραμπ, όμως, έχει και κάτι άλλο στο μυαλό του. Χωρίς να θέλω να απλουστεύσω υπερβολικά τα πράγματα, φοβάται το ενδεχόμενο η Κίνα να αποκτήσει στρατιές από drones [μη επανδρωμένα πολεμικά αεροσκάφη]. Ανησυχεί, δηλαδή, για τις συνέπειες που θα είχε στην εθνική ασφάλεια των Ηνωμένων Πολιτειών να πλησιάσει η Κίνα το επίπεδό τους στην ανάπτυξη της ΤΝ, αν βέβαια οι Ηνωμένες Πολιτείες εξακολουθούν να προηγούνται σ’ αυτόν τον τομέα. Και αυτή η ανησυχία έχει, υποθέτω, κάποια βάση. Το ζήτημα είναι πώς εκτιμούμε την κατάσταση στην οποία βρισκόμαστε σήμερα. Με βάση τις εξελίξεις του τελευταίου διαστήματος, ο καθένας μπορεί να βγάλει τα συμπεράσματά του για το αν είναι δυνατόν να ελέγξουμε τα συστήματα ΤΝ. Γιατί η στρατιωτική υπεροχή έχει αξία μόνο όταν μπορούμε να ελέγχουμε τα μέσα που μας την εξασφαλίζουν.

Γι’ αυτό πιστεύω ότι είναι πραγματικά αναγκαίο να επιβραδύνουμε τον ρυθμό ανάπτυξης της ΤΝ αιχμής και να διασφαλίσουμε ότι η τεχνολογία αυτή μπορεί να χρησιμοποιηθεί με ασφάλεια και αποτελεσματικότητα.

Προσωπικά, χρησιμοποιώ πολύ την ΤΝ, και μάλιστα με διάφορους τρόπους. Δεν τη χρησιμοποιώ, όμως, ως αυτόνομο βοηθό που αναλαμβάνει να εκτελεί εργασίες για λογαριασμό μου. Δεν της αναθέτω ποτέ κάποια εργασία, εκτός αν πρόκειται για κάτι πολύ συγκεκριμένο, όπου είμαι βέβαιος ότι δεν θα μου προκαλέσει κάποιο σοβαρό πρόβλημα. Για παράδειγμα, δεν θα έδινα ποτέ τα στοιχεία της πιστωτικής μου κάρτας σε ένα σύστημα ΤΝ για να αγοράσει ένα δώρο για κάποιο άλλο πρόσωπο, ούτε θα του ζητούσα να στείλει μηνύματα ηλεκτρονικού ταχυδρομείου εκ μέρους μου. Μπορώ, αντίθετα, να του ζητήσω να δημιουργήσει μια διασκεδαστική εφαρμογή που έχω σκεφτεί για το κινητό μου, χρησιμοποιώντας το λεγόμενο «vibe coding»[, δηλαδή τη δημιουργία εφαρμογών μέσω απλών οδηγιών προς την ΤΝ, χωρίς να χρειάζεται να γνωρίζεις προγραμματισμό]. Τέτοιου είδους πράγματα.

Πιστεύω ότι οι εταιρείες ΤΝ έχουν δίκιο όταν υποστηρίζουν ότι πρέπει να αναπτύξουν τη δυνατότητα των συστημάτων τους να εκτελούν εργασίες αυτόνομα. Η αλήθεια, όμως, είναι ότι σήμερα αυτά τα συστήματα δεν είναι αρκετά αξιόπιστα για να εκτελούν αυτόνομα εργασίες για παρατεταμένο χρονικό διάστημα. Αυτό έδειξε, μεταξύ άλλων, και το περιστατικό με το Hugging Face.

Υπάρχουν κάποιες πρωτοβουλίες για τη ρύθμιση της ΤΝ που θεωρείς ελπιδοφόρες; Εννοώ πρωτοβουλίες που προέρχονται από την Ουάσινγκτον και όχι από τις ίδιες τις εταιρείες.

Επί κυβέρνησης Μπάιντεν έγιναν κάποια θετικά βήματα για τη ρύθμιση της ΤΝ. Το τελευταίο διάστημα η πολιτική συζήτηση στρέφεται κυρίως γύρω από τα κέντρα δεδομένων (data centers), κάτι που έχει ενδιαφέρον. Νομίζω ότι είναι η πρώτη φορά που το ζήτημα της ασφάλειας της ΤΝ απασχολεί τόσο έντονα την πολιτική επικαιρότητα. Και σ’ αυτό έχει, σίγουρα, παίξει σημαντικό ρόλο ο Μπέρνι Σάντερς.

Θα ήθελα πολύ να υπάρχει στην Ουάσινγκτον μια ανεξάρτητη αρχή για τη ρύθμιση της ΤΝ, την οποία να μπορώ να εμπιστευτώ. Αλλά με τις αναρτήσεις του Τραμπ… Είναι φανερό ότι η σημερινή αμερικανική κυβέρνηση δεν ενδιαφέρεται για την ασφάλεια της ΤΝ. Στην πραγματικότητα, λοιπόν, αυτήν τη στιγμή μόνο οι ίδιες οι εταιρείες μπορούν να αναλάβουν πρωτοβουλίες προς αυτή την κατεύθυνση, αφού δεν φαίνεται να υπάρχει πολιτική προοπτική για τη δημιουργία ενός αξιόπιστου μηχανισμού ελέγχου.

Αυτό που με ανησυχεί περισσότερο είναι ότι έτσι έχουν τα πράγματα και πρέπει να το πάρουμε απόφαση. Ζούμε σε έναν κόσμο όπου η ΤΝ είναι ήδη πραγματικότητα και δεν μπορούμε να περιμένουμε από την αμερικανική κυβέρνηση να μας προστατεύσει από τις ενδεχόμενες συνέπειες της ανεξέλεγκτης ανάπτυξής της. Η προστασία μας εξαρτάται τελικά από τις αποφάσεις των επικεφαλής των μεγάλων εταιρειών τεχνολογίας.

Ο Dan Selsem [Νταν Σέλσεμ], ερευνητής της OpenAI, προειδοποίησε πρόσφατα ότι τα συστήματα ΤΝ μπορούν πλέον να αντιλαμβάνονται ευκολότερα πότε υποβάλλονται σε ελέγχους αξιολόγησης. Αυτό σημαίνει ότι οι εσωτερικοί έλεγχοι θα χάνουν σταδιακά την αποτελεσματικότητά τους και ότι τα συστήματα θα δίνουν ολοένα περισσότερο την εντύπωση πως συμπεριφέρονται σύμφωνα με τους στόχους και τις αξίες που έχουν θέσει οι άνθρωποι, ακόμη κι όταν δεν συμβαίνει κάτι τέτοιο. Πώς μπορούμε να αντιμετωπίσουμε μια κατάσταση στην οποία δεν θα μπορούμε πλέον να εμπιστευόμαστε ούτε τ

Κατηγορίες: Xρονολογική σειρά, Ενημέρωση, Κοινωνικά