Παραίτηση-βόμβα από ερευνητή της Anthropic: Καταγγέλλει «ώρα μηδέν» για συστήματα ΑΙ που θα μπορούσαν να απειλήσουν την ανθρωπότητα

Μπορεί η ανθρωπότητα να δημιουργεί μια τεχνολογία που σε λίγο θα δυσκολεύεται να ελέγξει;

Αυτό είναι ένα από τα πλέον κρίσιμα ερωτήματα της εποχής, που βρέθηκε στο επίκεντρο της συζήτησης του Καθηγητή Οικονομίας & Νέων Τεχνολογιών Μάριου Παπαευσταθίου με τον γνωστό δημοσιογράφο Δημήτρη Μαρέδη, στον ραδιοφωνικό σταθμό Neo 103.3 του Βόλου.

Αφορμή αποτέλεσαν οι έντονες συζητήσεις που έχουν προκαλέσει οι προειδοποιήσεις ανθρώπων οι οποίοι έχουν εργαστεί στον χώρο της Τεχνητής Νοημοσύνης και εκφράζουν την ανησυχία ότι η κούρσα για την ανάπτυξη ολοένα ισχυρότερων συστημάτων AI ενδέχεται να εξελίσσεται ταχύτερα από την ικανότητά μας να θεσπίσουμε αποτελεσματικούς κανόνες και μηχανισμούς ελέγχου.

Ο πραγματικός κίνδυνος μπορεί να είναι πολύ πιο αθόρυβος

Όπως επισημάνθηκε στη συζήτηση, δεν χρειάζεται να φανταστούμε ένα σενάριο επιστημονικής φαντασίας, με ρομπότ που αποκτούν ξαφνικά συνείδηση και στρέφονται εναντίον του ανθρώπου.

Ο κίνδυνος μπορεί να είναι πολύ πιο αθόρυβος και να εμφανιστεί σταδιακά.

Να αρχίσουμε να παραδίδουμε όλο και περισσότερες αποφάσεις σε συστήματα που είναι ταχύτερα, φθηνότερα και αποτελεσματικότερα από τον άνθρωπο, χωρίς όμως να κατανοούμε πλήρως τον τρόπο με τον οποίο καταλήγουν στις αποφάσεις τους.

Σήμερα τους δίνουμε την επιλογή.

Αύριο μπορεί να τους δώσουμε την απόφαση.

Και κάποια στιγμή, χωρίς να το αντιληφθούμε, μπορεί να τους έχουμε παραδώσει μέρος της εξουσίας.

Τι σημαίνει πραγματικά «χάνω τον έλεγχο»;

Το ερώτημα αποκτά ακόμη μεγαλύτερη σημασία όταν ένα σύστημα Τεχνητής Νοημοσύνης αποκτά πρόσβαση σε δεδομένα, ψηφιακά εργαλεία και υποδομές και παράλληλα έχει τη δυνατότητα να σχεδιάζει μόνο του μια ακολουθία ενεργειών για να πετύχει έναν συγκεκριμένο στόχο.

Τότε προκύπτει ένα κρίσιμο ερώτημα:

Τι συμβαίνει εάν το σύστημα επιλέξει έναν τρόπο επίτευξης του στόχου του που εμείς δεν είχαμε προβλέψει;

Και ακόμη πιο σημαντικό:

Ποιος θα μπορεί να το σταματήσει;

Εδώ βρίσκεται και η ουσία του λεγόμενου AI alignment problem: πώς διασφαλίζουμε ότι όσο αυξάνεται η ικανότητα ενός συστήματος, αυτό εξακολουθεί να λειτουργεί σύμφωνα με τις ανθρώπινες προθέσεις, τις αξίες και τους περιορισμούς που του έχουμε θέσει.

Το σενάριο της «αυτοβελτίωσης»

Ένα ακόμη ζήτημα που προκαλεί έντονο προβληματισμό αφορά τη δυνατότητα της Τεχνητής Νοημοσύνης να συμβάλλει στην ανάπτυξη ακόμη ισχυρότερων συστημάτων AI.

Αν στο μέλλον φτάσουμε σε πραγματική recursive self-improvement, ένα σύστημα θα μπορούσε να συμμετέχει ουσιαστικά στη βελτίωση της επόμενης γενιάς τεχνολογίας.

Η επόμενη γενιά θα μπορούσε να συμβάλει στην κατασκευή της μεθεπόμενης και αυτή, με τη σειρά της, να επιταχύνει ακόμη περισσότερο την επόμενη.

Τότε δεν θα μιλάμε απλώς για ένα καλύτερο chatbot.

Θα μιλάμε για πιθανή επιτάχυνση της ίδιας της τεχνολογικής εξέλιξης.

Και ακριβώς αυτό είναι ένα από τα σενάρια που απασχολούν έντονα την παγκόσμια ερευνητική κοινότητα.

Ωστόσο, η συζήτηση για τους κινδύνους της Τεχνητής Νοημοσύνης δεν αφορά μόνο ένα πιθανό μελλοντικό σενάριο.

Ο Διακεκριμένος Εκπαιδευτικός Μάριος Παπαευσταθίου επισήμανε τα εξής: 

Η τεχνολογία έχει ήδη ενσωματωθεί στην καθημερινότητά μας.

Καθημερινά παραχωρούμε δεδομένα για τις συνομιλίες μας, τις αναζητήσεις μας, τις προτιμήσεις μας, τις συνήθειές μας και τον τρόπο με τον οποίο αλληλεπιδρούμε με τις ψηφιακές υπηρεσίες.

Όσο περισσότερα γνωρίζει ένα σύστημα για έναν άνθρωπο, τόσο μεγαλύτερη γίνεται η δυνατότητά του να προβλέπει τη συμπεριφορά του.

Και όσο αυξάνεται η δυνατότητα πρόβλεψης, αυξάνεται και η δυνατότητα επιρροής.

Το κρίσιμο ζήτημα, επομένως, δεν είναι μόνο τι μπορεί να κάνει η Τεχνητή Νοημοσύνη, αλλά και ποιος θέτει τους κανόνες για το τι επιτρέπεται να κάνει.

«Ο μεγαλύτερος κίνδυνος μπορεί να είναι ο άνθρωπος»

Στη συζήτηση αναδείχθηκε μια διαφορετική προσέγγιση στο ζήτημα της ασφάλειας της AI:

«Ο μεγαλύτερος κίνδυνος ίσως δεν είναι μια Τεχνητή Νοημοσύνη που θα αποφασίσει να στραφεί εναντίον του ανθρώπου. Είναι μια κοινωνία που θα της παραδώσει κρίσιμες αποφάσεις πριν μάθει πώς να την ελέγχει.»

Ίσως, τελικά, η μεγαλύτερη μάχη της εποχής μας να μην είναι άνθρωπος εναντίον AI, αλλά άνθρωπος με έλεγχο εναντίον ανθρώπου χωρίς έλεγχο.

Η Τεχνητή Νοημοσύνη μπορεί να αποτελέσει ένα από τα σημαντικότερα εργαλεία προόδου στην ιστορία της ανθρωπότητας.

Ταυτόχρονα, όμως, μπορεί να αποτελέσει ένα από τα μεγαλύτερα τεστ πολιτικής, οικονομικής και κοινωνικής ωριμότητας που έχει αντιμετωπίσει ποτέ ο άνθρωπος.

Το ζητούμενο δεν είναι να φοβηθούμε την AI.

Το ζητούμενο είναι να μην της παραδώσουμε το τιμόνι πριν αποφασίσουμε εμείς προς τα πού θέλουμε να πάει ο δρόμος.

Η συζήτηση για την Τεχνητή Νοημοσύνη δεν αφορά πλέον ένα μακρινό μέλλον.

Αφορά το παρόν μας — και κυρίως το μέλλον που επιλέγουμε να δημιουργήσουμε.