“Παίζουν με τις ζωές μας”: Προειδοποίηση σοκ από πρώην ερευνητή – Το σενάριο για την ανθρωπότητα που προκαλεί τρόμο

Ένα από τα πιο σκοτεινά σενάρια για το μέλλον της τεχνητής νοημοσύνης επανέρχεται με εκκωφαντικό τρόπο στο προσκήνιο.

Την ώρα που η κούρσα για ολοένα ισχυρότερα συστήματα AI επιταχύνεται, άνθρωποι που έχουν εργαστεί μέσα στις ίδιες τις εταιρείες ανάπτυξης της τεχνολογίας προειδοποιούν ότι η ταχύτητα με την οποία εξελίσσονται τα μοντέλα μπορεί να ξεπεράσει την ικανότητα της ανθρωπότητας να τα ελέγξει.

Η ανησυχία δεν προέρχεται πλέον μόνο από θεωρητικούς επιστήμονες ή επικριτές της τεχνολογίας. Προέρχεται και από ερευνητές που έχουν βρεθεί στην καρδιά της ανάπτυξης των συστημάτων τεχνητής νοημοσύνης.

«ΠΑΙΖΟΥΝ ΜΕ ΤΙΣ ΖΩΕΣ ΜΑΣ»

Ο πρώην ερευνητής της Anthropic και της OpenAI, Jacob Coxon, ανακοίνωσε την αποχώρησή του, εκφράζοντας σοβαρές ανησυχίες για την κατεύθυνση που έχει πάρει ο αγώνας μεταξύ των μεγάλων εταιρειών AI.

Η βασική του προειδοποίηση είναι ότι η τεχνολογική κούρσα δεν εξελίσσεται απλώς με γρήγορους ρυθμούς. Κατά την άποψή του, οι εταιρείες οδηγούνται σε μια προσπάθεια δημιουργίας ολοένα πιο αυτόνομων και αυτοβελτιούμενων συστημάτων, χωρίς να υπάρχει ακόμη επαρκής βεβαιότητα ότι αυτά θα παραμείνουν υπό ανθρώπινο έλεγχο.

Το ερώτημα που τίθεται είναι εφιαλτικό:

Τι συμβαίνει εάν δημιουργηθεί ένα σύστημα που μπορεί να βελτιώνει τις ίδιες του τις δυνατότητες ταχύτερα από όσο μπορούν οι άνθρωποι να το κατανοήσουν ή να το περιορίσουν;

Ο ΦΟΒΟΣ ΓΙΑ ΤΗΝ «ΑΥΤΟΒΕΛΤΙΩΣΗ»

Ένα από τα μεγαλύτερα ζητήματα στην κοινότητα ασφάλειας της AI αφορά τα συστήματα που θα μπορούσαν κάποια στιγμή να αποκτήσουν δυνατότητα αυτοβελτίωσης.

Η θεωρητική αλυσίδα είναι αυτή που προκαλεί τον μεγαλύτερο φόβο: ένα σύστημα γίνεται καλύτερο, στη συνέχεια χρησιμοποιεί τις νέες δυνατότητές του για να γίνει ακόμη καλύτερο και η διαδικασία συνεχίζεται με ολοένα μεγαλύτερη ταχύτητα.

Πρόκειται για ένα σενάριο που συχνά περιγράφεται ως «recursive self-improvement».

Δεν σημαίνει ότι κάτι τέτοιο έχει συμβεί σήμερα. Σημαίνει όμως ότι ορισμένοι ερευνητές θεωρούν πως πρέπει να υπάρξουν μηχανισμοί ασφαλείας πριν η τεχνολογία φτάσει σε τέτοιο επίπεδο.

Η ΠΡΟΕΙΔΟΠΟΙΗΣΗ ΠΟΥ ΠΑΓΩΣΕ ΤΗΝ ΚΟΙΝΗ ΓΝΩΜΗ

Η συζήτηση έγινε ακόμη πιο ανησυχητική όταν ανώτερος ερευνητής ασφάλειας της Anthropic ανέφερε ότι θεωρεί πως υπάρχει πάνω από 10% πιθανότητα η τεχνητή νοημοσύνη να μπορούσε να οδηγήσει ακόμη και στην εξόντωση της ανθρωπότητας μέσα στην επόμενη δεκαετία.

Πρόκειται για προσωπική εκτίμηση κινδύνου και όχι για επιστημονική πρόβλεψη ενός αναπόφευκτου γεγονότος.

Ωστόσο, το γεγονός ότι τέτοιοι αριθμοί ακούγονται πλέον δημόσια από ανθρώπους που εργάζονται στην πρώτη γραμμή της τεχνολογίας δείχνει πόσο σοβαρά έχει γίνει το ζήτημα της ασφάλειας των προηγμένων μοντέλων.

Η ΚΟΥΡΣΑ ΤΩΝ ΜΕΓΑΛΩΝ ΕΤΑΙΡΕΙΩΝ

Στο βάθος βρίσκεται ένας αγώνας που θυμίζει τεχνολογικό «πυρετό».

Οι εταιρείες θέλουν να δημιουργήσουν συστήματα με μεγαλύτερη λογική ικανότητα, αυτονομία, μνήμη, προγραμματιστικές δυνατότητες και δυνατότητα εκτέλεσης σύνθετων εργασιών.

Κάθε νέο μοντέλο δημιουργεί πίεση για το επόμενο.

Και ακριβώς εδώ βρίσκεται η μεγάλη αντίφαση: όσο μεγαλύτερες γίνονται οι δυνατότητες της AI, τόσο περισσότερο αυξάνεται και η ανάγκη για αυστηρούς ελέγχους.

ΟΙ ΕΠΙΣΤΗΜΟΝΕΣ ΖΗΤΟΥΝ ΠΡΟΣΟΧΗ

Δεν υπάρχει, πάντως, ομοφωνία ότι η ανθρωπότητα βρίσκεται μπροστά σε μια αναπόφευκτη καταστροφή.

Αρκετοί ειδικοί προειδοποιούν ότι οι ακραίες προβλέψεις πρέπει να εξετάζονται με επιστημονική ψυχραιμία και να μην μετατρέπονται σε βεβαιότητες.

Αυτό όμως δεν σημαίνει ότι ο κίνδυνος μπορεί να αγνοηθεί.

Η ανάγκη για δοκιμές ασφαλείας, παρακολούθηση των μοντέλων, διεθνείς κανόνες και μηχανισμούς ελέγχου αποτελεί πλέον κεντρικό θέμα της συζήτησης γύρω από την τεχνητή νοημοσύνη.

ΤΟ ΜΕΓΑΛΟ ΕΡΩΤΗΜΑ ΓΙΑ ΤΟ ΜΕΛΛΟΝ

Η ανθρωπότητα βρίσκεται μπροστά σε μια τεχνολογία που μπορεί να αλλάξει ριζικά την οικονομία, την επιστήμη, την εργασία και την καθημερινότητα.

Το ζητούμενο είναι αν θα καταφέρει να αξιοποιήσει αυτή τη δύναμη χωρίς να δημιουργήσει συστήματα τα οποία θα είναι αδύνατο να ελεγχθούν.

Για τους πιο ανήσυχους ερευνητές, το κρίσιμο σημείο δεν βρίσκεται στο αν η τεχνητή νοημοσύνη θα γίνει ισχυρότερη.

Το κρίσιμο είναι αν ο άνθρωπος θα παραμείνει ικανός να αποφασίζει τι επιτρέπεται να κάνει.

Και όσο η κούρσα για την επόμενη γενιά AI συνεχίζεται, αυτό το ερώτημα γίνεται ολοένα πιο δύσκολο να αγνοηθεί.

Το άρθρο “Παίζουν με τις ζωές μας”: Προειδοποίηση σοκ από πρώην ερευνητή – Το σενάριο για την ανθρωπότητα που προκαλεί τρόμο εμφανίστηκε πρώτα στο Ειδήσεις Τώρα – Europost.gr από το NewsRoom.