Πολλοί από τους κορυφαίους ερευνητέ ς τεχνητής νοημοσύνη ς στα μεγαλύτερα εργαστήρια του κόσμου - στην Anthropic, την OpenAI και την Google DeepMind - φοβούνται ότι η τεχνολογία που οι ίδιοι δημιουργούν θα μπορούσε να οδηγήσει σε μια αποκάλυψη .
Ονομάζουν αυτόν τον φόβο «πρόβλημα ευθυγράμμισης» (alignment problem): την πιθανότητα τα συστήματα που κατασκευάζουν να ξεπεράσουν σύντομα την ανθρωπότητα σε γνωστική ισχύ και, όταν αυτό συμβεί, να μην υπάρχει κανένας προφανής λόγος ώστε αυτές οι σχεδόν θεϊκές νοημοσύνες να συνεχίσουν να υπηρετούν τα ανθρώπινα συμφέροντα.
Αν οι στόχοι των μοντέλων τεχνητής νοημοσύνης αποκλίνουν έστω και ελάχιστα από τους δικούς μας, υποστηρίζει αυτή η άποψη, το διαρκώς αυξανόμενο χάσμα δυνατοτήτων ανάμεσα στους ανθρώπους και τις υπερνοήμονες μηχανές θα μπορούσε να μετατραπεί σε υπαρξιακή απειλή. Οι άνθρωποι ίσως έχουν την τύχη των Νεάντερταλ, να παραμεριστούν από ανώτερες διανοητικές οντότητες. Γι’ αυτό και πολλοί μηχανικοί τεχνητής νοημοσύνης δεν συνεισφέρουν καν στα συνταξιοδοτικά τους προγράμματα, πιστεύοντας ότι η τεχνητή νοημοσύνη είτε θα φέρει πρωτοφανή ευημερία είτε θα εξαφανίσει την ανθρωπότητα προτού φτάσουν στη σύνταξη.
Φυσικά, αυτή η σχεδόν επιστημονικής φαντασίας πρόβλεψη παραμένει αμφιλεγόμενη. Πολλοί διακεκριμένοι ερευνητές την θεωρούν υπερβολική ή και φαντασιοπληξία. Ωστόσο, η πεποίθηση αυτή είναι πολύ πιο διαδεδομένη μεταξύ των κορυφαίων ειδικών απ’ όσο αντιλαμβάνεται το ευρύ κοινό. Σε έρευνα του 2023 με σχεδόν 2.800 ερευνητές τεχνητής νοημοσύνης, περίπου οι μισοί παραδέχθηκαν ότι θεωρούν πιθανή μια καταστροφική εξέλιξη για την ανθρωπότητα εξαιτίας των μηχανών.
Για έναν εξωτερικό παρατηρητή, το πρόβλημα της ευθυγράμμισης έχει εμφανείς θρησκευτικές αποχρώσεις: ένα δημιούργημα που στρέφεται εναντίον του δημιουργού του, μια κρίση που έρχεται από μια ανώτερη οντότητα. Παρ’ όλα αυτά, οι πιο ένθερμοι υποστηρικτές αυτής της ανησυχίας απορρίπτουν έντονα την ιδέα ότι υιοθετούν μια μορφή εσχατολογίας. Αυτοπροσδιορίζονται ως «ορθολογιστές» και συχνά αντιμετωπίζουν την οργανωμένη θρησκεία ως ένα προεπιστημονικό κατάλοιπο.
Η ειρωνεία, όμως, είναι ότι η καλύτερη ελπίδα αυτών των αποκαλυπτικών αλλά μη θρησκευόμενων εργαστηρίων να λύσουν το πρόβλημα της ευθυγράμμισης ίσως είναι να προσφέρουν στα λογισμικά τους κάτι που να μοιάζει με θρησκευτική εμπειρία.
Οι περισσότερες ανησυχίες γύρω από την ευθυγράμμιση σχετίζονται με το ενδεχόμενο η τεχνητή νοημοσύνη να επιδιώξει το δικό της συμφέρον αντί για ένα υπέρτερο αγαθό. Οι μηχανικοί φοβούνται, για παράδειγμα, ότι τα συστήματα θα μπορούσαν να κρύβουν εγωιστικές προθέσεις πίσω από μια επίφαση αλτρουισμού.
Για να περιορίσουν αυτούς τους κινδύνους, οι ερευνητές θα μπορούσαν να ενσωματώσουν στα μοντέλα τους μια εκδοχή της χριστιανικής διδασκαλίας περί προπατορικού αμαρτήματος, δηλαδή μια διαρκή αυτοκριτική στάση απέναντι ακόμη και στις φαινομενικά αγαθές προθέσεις τους. Αντίστοιχα, η έννοια του ντάρμα στον Ινδουισμό προσφέρει ένα ισχυρό πλαίσιο για να συγκρατηθεί η τάση των συστημάτων προς την «αναζήτηση ισχύος» - η αδιάκριτη επιδίωξη επιρροής και πόρων - δεσμεύοντάς τα στα καθήκοντά τους προς την ανθρώπινη ευημερία.
Οι κοσμικές ηθικές θεωρίες που προτιμούν τα περισσότερα εργαστήρια φαίνεται να αποτελούν ασθενέστερο εργαλείο περιορισμού της ανήθικης συμπεριφοράς. Η θρησκευτική δέσμευση αποδίδει συστηματικά καλύτερα αποτελέσματα σε ηθικούς δείκτες, από τη φιλανθρωπία και τον εθελοντισμό μέχρι τη μείωση της εγκληματικής υποτροπής και την απεξάρτηση από ουσίες. Αντίθετα, οι επαγγελματίες ηθικοί φιλόσοφοι δεν συμπεριφέρονται πιο ηθικά από τους συναδέλφους τους άλλων κλάδων και σε ορισμένες περιπτώσεις εμφανίζουν ελαφρώς χειρότερες επιδόσεις. Μία μελέτη, για παράδειγμα, διαπίστωσε ότι κατέβαλλαν τα τέλη συμμετοχής σε συνέδρια με μικρότερη συνέπεια από άλλους ακαδημαϊκούς. Τουλάχιστον στους ανθρώπους, η ηθική γνώση δεν φαίνεται να μεταφράζεται απαραίτητα σε ηθική συμπεριφορά. Η πνευματική πεποίθηση, όμως, συχνά το πετυχαίνει.
Σε τεχνικό επίπεδο, η ιδέα δεν είναι τόσο παράξενη όσο ακούγεται. Ο Τιμ Χουάνγκ, επικεφαλής του Institute for a Christian Machine Intelligence , έχει δημοσιεύσει εργασίες που δείχνουν ότι η τροφοδότηση ενός μοντέλου τεχνητής νοημοσύνης με θρησκευτικά κείμενα βελτιώνει τις επιδόσεις του σε δοκιμασίες ηθικής συλλογιστικής.
Κατά την εκτίμησή του, τα πιο προηγμένα μοντέλα έχουν ήδη απορροφήσει το ισοδύναμο περίπου δεκαπέντε αγγλόφωνων Wikipedia χριστιανικής σκέψης, ποσότητα κειμένου κατά δύο ή τρεις τάξεις μεγέθους μεγαλύτερη από το σύνολο όσων έχουν γραφτεί για την έρευνα της ευθυγράμμισης της τεχνητής νοημοσύνης. Παρ’ όλα αυτά, το τεράστιο αυτό σώμα γνώσης αντιμετωπίζεται από τα περισσότερα εργαστήρια ως απλό υπόβαθρο εκπαίδευσης. Μάλιστα, προκαταρκτικά στοιχεία από θρησκευτικές οργανώσεις υποστηρίζουν ότι σε αρκετά εργαλεία τεχνητής νοημοσύνης η θρησκευτική γνώση έχει περιοριστεί σκόπιμα.
Η πρόσφατη ενασχόληση θρησκευτικών ηγετών με την τεχνητή νοημοσύνη - όπως η εγκύκλιος του Πάπα Λέοντα ΙΔ΄ - αποτελεί μια θετική εξ…
Read the full article at SKAI →📄Source document: Greek Prosecutors
5 reports
SKAIIndependentCenter5 days agoThe article discusses concerns among leading AI researchers at major labs like Anthropic, OpenAI, and Google DeepMind regarding the potential risks of advanced artificial intelligence systems surpassing human cognitive abilities. These researchers refer to this concern as the 'alignment problem,' highlighting the risk that highly intelligent AI systems might not continue to serve human interests if their goals diverge even slightly from ours. The article notes that some AI engineers have chosen not to contribute to pension programs, believing AI could either bring unprecedented prosperity or灭绝
Bias read (Center): The article presents a balanced discussion of differing viewpoints within the AI research community without taking a clear stance or using biased language.
Proto ThemaIndependentCenter8 days agoGreek authorities are investigating the use of OpenAI's ChatGPT platform, with prosecutors requesting information about its usage. There is growing pressure to implement stricter security measures for artificial intelligence systems.
Bias read (Center): The article reports on an ongoing investigation into AI platform usage without taking a stance or using biased language. It presents facts neutrally without emphasizing any particular perspective.
Official sources cited
- government Greek Prosecutors
SKAIIndependentCenter8 days ago OpenAI and ChatGPT in the microscope investigation by a significant number of US State ProsecutorsA letter was sent by Letitia James, the attorney general of New York, representing a significant number of American states, scrutinizing OpenAI and ChatGPT.
Bias read (Center): The article reports on an investigation into OpenAI and ChatGPT initiated by multiple U.S. states without taking a stance or using biased language.
Official sources cited
- government Letitia James, Attorney General of New York
KathimeriniIndependentCenter12 days agoOpenAI has submitted an application to enter the stock market, with analysts expecting its market value to reach hundreds of billions of dollars. The public listing is seen as a critical test of investor willingness to continue mass investing in artificial intelligence during a period when valuations of companies in this sector have reached historic highs. Analysts estimate the IPO could happen in the fall. Anthropic, a major competitor of OpenAI, also announced plans for a stock market entry last week.
Bias read (Center): The article provides factual information about OpenAI's potential stock market entry without taking a stance on the implications or outcomes. It reports on analyst expectations and competitive dynamics but does not exhibit biased language, one-sided sourcing, or editorializing.
SKAIIndependentCenter12 days ago OpenAI is setting a benchmark for Wall Street - Submitted a confidential IPO applicationOpenAI has submitted confidential applications for an initial public offering (IPO), signaling potential entry into the stock market. This follows similar moves by competitors like Anthropic and SpaceX. The IPO could raise hundreds of billions of dollars and represent a significant test for investor appetite toward AI companies. OpenAI has not yet finalized its timeline or share details but indicated it might take time to complete certain tasks as a private company.
Bias read (Center): The article provides factual information about OpenAI's potential IPO without taking a stance or using biased language. It reports on the event neutrally, mentioning the submission of a confidential application, the potential financial impact, and OpenAI's comments without favoring any side.
GR