Οι «ανιχνευτές» με τεχνητή νοημοσύνη, οι οποίοι έχουν σχεδιαστεί για να αναγνωρίζουν περιεχόμενο που δημιουργείται από την τεχνητή νοημοσύνη.
'Εχουν διαφημιστεί ως ένας τρόπος προστασίας της ανθρώπινης διαδικτυακής γραφής στην εποχή των «αποτυχιών» που δημιουργούνται από την τεχνητή νοημοσύνη. Δυστυχώς, αυτό δεν συμβαίνει στην πραγματικότητα.Οι αναγνώστες του Unlimited Hangout πιθανότατα γνωρίζουν ήδη ότι έχω μια πολύ αρνητική άποψη για τον αντίκτυπο της τεχνητής νοημοσύνης (ΤΝ) στα ανεξάρτητα μέσα ενημέρωσης και στα μέσα ενημέρωσης γενικότερα. Ως κάποιος του οποίου η ταυτότητα έχει πλαστογραφηθεί καθημερινά από την ΤΝ σε μεγάλες πλατφόρμες βίντεο τα τελευταία χρόνια, έχω καταλήξει να πιστεύω έντονα ότι η ΤΝ γίνεται μια επικίνδυνη δύναμη που καθιστά ολοένα και πιο δύσκολο για τους ειλικρινείς αναγνώστες και θεατές να διακρίνουν μεταξύ του τι είναι αληθινό και του τι είναι ψευδές. Δεν μιλάω μόνο για όσους ελπίζουν να έχουν πρόσβαση στο περιεχόμενό μου, επειδή το προσωπικό πρόβλημα που αντιμετωπίζω αντικατοπτρίζει ένα πολύ μεγαλύτερο ζήτημα.
Θα μπορούσε κανείς, επομένως, να σκεφτεί ότι θα ήμουν χαρούμενος, ακόμη και ανακουφισμένος, βλέποντας το Substack, μια σημαντική πλατφόρμα για επαγγελματίες συγγραφείς, να συνεργάζεται με ένα «εργαλείο ανίχνευσης τεχνητής νοημοσύνης». Όχι μόνο δεν είμαι ενθουσιασμένος, αλλά αφιέρωσα χρόνο για να γράψω ένα άρθρο γνώμης εξηγώντας γιατί πιστεύω ότι αυτό είναι κάτι κακό και σκιαγραφώντας επίσης, κατά την άποψή μου, την κατεύθυνση που θα πάρει σε μεγάλο βαθμό αυτή η κατάσταση.
Ο νεότερος συνεργάτης της Substack—και, προφανώς, το εργαλείο ανίχνευσης τεχνητής νοημοσύνης που προτιμούν τα περισσότερα μεγάλα μέσα ενημέρωσης αυτή τη στιγμή—ονομάζεται Pangram. Η Pangram ιδρύθηκε το 2023, αρχικά ως Checkfor.ai , από τους Max Spero και Bradley Emi. Τόσο ο Spero όσο και η Emi είναι απόφοιτοι του Stanford και, πριν ιδρύσουν την Pangram, εργάστηκαν για εταιρείες όπως η Nuro και η Tesla, όπου και οι δύο συνέβαλαν στην ανάπτυξη λογισμικού τεχνητής νοημοσύνης για αυτόνομα οχήματα (δηλαδή, οχήματα σχεδιασμένα να αντικαταστήσουν τους ανθρώπινους οδηγούς με λογισμικό τεχνητής νοημοσύνης). Οι δύο ιδρυτές «είναι ενθουσιασμένοι εδώ και καιρό για τις δυνατότητες της τεχνητής νοημοσύνης να μεταμορφώσει την κοινωνία» και ισχυρίζονται ότι δημιούργησαν την Pangram «για να μετριάσουν τα νέα προβλήματα που προκαλούνται από τον πολλαπλασιασμό ισχυρών γενετικών μοντέλων τεχνητής νοημοσύνης » .
Θεωρώ ενδιαφέρον το γεγονός ότι δύο απόφοιτοι του Στάνφορντ, παθιασμένοι με τις δυνατότητες της Τεχνητής Νοημοσύνης να «μεταμορφώσει την κοινωνία» και οι οποίοι στη συνέχεια εργάστηκαν στην ανάπτυξη λογισμικού αυτόνομης οδήγησης βασισμένου στην Τεχνητή Νοημοσύνη, αποφάσισαν να ανακατευθύνουν γρήγορα τις δραστηριότητές τους για να «μετριάσουν» τα προβλήματα που προκαλεί η παραγωγική Τεχνητή Νοημοσύνη. Πολλά από αυτά τα προβλήματα είχαν στην πραγματικότητα προβλεφθεί πριν από χρόνια από προσωπικότητες όπως ο πρώην Διευθύνων Σύμβουλος της Google, Έρικ Σμιτ (ο συνιδρυτής της Pangram, Μαξ Σπέρο, εργαζόταν προηγουμένως για την Google). Ο Σμιτ, σε ένα βιβλίο του 2021 που συνυπέγραψε με τον εγκληματία πολέμου Χένρι Κίσινγκερ, ουσιαστικά προέβλεψε ότι το «μεταμορφωτικό δυναμικό» της Τεχνητής Νοημοσύνης θα οδηγούσε σε αυτό που ονόμασε «γνωστική παρακμή» στις μάζες και θα καθιστούσε σχεδόν αδύνατο για τα άτομα να διακρίνουν από μόνα τους τι είναι πραγματικό από αυτό που δεν είναι. Όπως ήταν αναμενόμενο, η προτιμώμενη «λύση» των Σμιτ και Κίσινγκερ σε αυτό το πρόβλημα ήταν να εξαρτηθούμε από την Τεχνητή Νοημοσύνη για να διακρίνουμε τι είναι πραγματικό από αυτό που δεν είναι - με άλλα λόγια, να αφήσουμε μια άλλη Τεχνητή Νοημοσύνη να γίνει ο κριτής της πραγματικότητάς μας.
Έχω ήδη γράψει για αυτό το βιβλίο των Schmidt και Kissinger και τις προβλέψεις του. Σημείωσα εκεί ότι αυτές οι προβλέψεις και οι προειδοποιήσεις - δεδομένων των δικτύων εξουσίας στα οποία εμπλέκονται ή εμπλέκονταν αυτοί οι δύο άνδρες - ήταν πιο πιθανό να αποκαλύψουν ό,τι είχε ήδη προβλεφθεί σχετικά με την Τεχνητή Νοημοσύνη παρά να προειδοποιήσουν για το τι θα μπορούσε να συμβεί με τη μαζική υιοθέτηση της Τεχνητής Νοημοσύνης.
Παρ' όλα αυτά, οι «προειδοποιήσεις» των Schmidt και Kissinger αποδείχθηκαν αξιοσημείωτα προφητικές. Επιπλέον, η προτεινόμενη λύση τους είναι πολύ παρόμοια με αυτήν που προσφέρει σήμερα η Pangram — καθώς η Pangram χρησιμοποιεί την Τεχνητή Νοημοσύνη για να διακρίνει μεταξύ κειμένου που δημιουργείται από την Τεχνητή Νοημοσύνη και κειμένου που γράφεται από τον άνθρωπο. Έτσι, η Pangram γίνεται ο προτιμώμενος κριτής της Τεχνητής Νοημοσύνης για τον προσδιορισμό του τι συνιστά γνήσια ανθρώπινη γραφή και τι όχι.
Σίγουρα έχει υπάρξει μια επιτυχημένη καμπάνια μάρκετινγκ για να μας πείσει ότι το Pangram είναι το « πιο ακριβές » εργαλείο ανίχνευσης χειρογράφου με τεχνητή νοημοσύνη στην αγορά. Οι τίτλοι των άρθρων που προωθούν το Pangram ουσιαστικά υπονοούν ότι θα σας πει πέρα από κάθε αμφιβολία εάν ένα κείμενο γράφτηκε από τεχνητή νοημοσύνη . Αν διαβάσετε πέρα από τον τίτλο, κάτι που πολλοί δεν κάνουν, θα δείτε στα ψιλά γράμματα ότι το Pangram θα επισημάνει επίσης κείμενο ως δημιουργημένο από τεχνητή νοημοσύνη, ακόμη και αν η τεχνητή νοημοσύνη χρησιμοποιήθηκε μόνο για την επεξεργασία κειμένου που γράφτηκε από άνθρωπο. Η ετικέτα «δημιουργημένο από τεχνητή νοημοσύνη» της Pangram δεν κάνει πραγματικά διάκριση μεταξύ των δύο, παρόλο που, όπως αναγνωρίζει ο συνιδρυτής Max Spero, αυτή η ετικέτα «αλλάζει τον τρόπο με τον οποίο οι άνθρωποι προσεγγίζουν το κείμενο » .
Το γεγονός ότι η Pangram δεν μπορεί να διακρίνει ουσιαστικά μεταξύ κειμένου που δημιουργείται εξ ολοκλήρου από την Τεχνητή Νοημοσύνη και κειμένου που απλώς επεξεργάζεται η ίδια αποκαλύπτει ότι δεν είναι καθόλου «ανιχνευτής Τεχνητής Νοημοσύνης». Όπως επεσήμανε ο Tim Requarth τον περασμένο Απρίλιο:
«Ο όρος «ανιχνευτής τεχνητής νοημοσύνης» είναι κάπως ανακριβής, καθώς εργαλεία όπως το Pangram δεν σαρώνουν μια βάση δεδομένων με γνωστά κείμενα που δημιουργούνται από τεχνητή νοημοσύνη για να βρουν μια αντιστοιχία. Κάνουν μια υπόθεση σχετικά με τον πιθανό συγγραφέα με βάση τις διαφορές στα πρότυπα μεταξύ κειμένων που δημιουργούνται από τεχνητή νοημοσύνη και κειμένων που δημιουργούνται από ανθρώπους. Αντί για έναν ανιχνευτή, σκεφτείτε τον ως «υπόδειξη τεχνητής νοημοσύνης» ή, πιο απλά, ως «εικόνα εικασίας τεχνητής νοημοσύνης».»
Ως εργαλείο εξαγωγής συμπερασμάτων, το Pangram είναι ευάλωτο σε όλα όσα καθιστούν την εξαγωγή συμπερασμάτων τόσο δύσκολη: μικρά μεγέθη δειγμάτων (ένα μόνο άρθρο αντί για ένα corpus), μικρά μεγέθη εφέ (καθώς η στατιστική απόσταση μεταξύ της ανθρώπινης και της γραφής που δημιουργείται από την Τεχνητή Νοημοσύνη μειώνεται) και παράγοντες σύγχυσης (ένα άτομο που διαβάζει και μιμείται κείμενο που δημιουργείται από την Τεχνητή Νοημοσύνη πριν γράψει το δικό του).
Πράγματι, το Pangram λειτουργεί συμπεραίνοντας εάν ένα δεδομένο κείμενο περιέχει αρκετές λέξεις, φράσεις, δομές προτάσεων κ.λπ., που είναι σήμερα συνηθισμένες σε κείμενα που δημιουργούνται από την Τεχνητή Νοημοσύνη. Ωστόσο, πολλοί ανθρώπινοι συγγραφείς, πολύ πριν από την έλευση της παραγωγικής Τεχνητής Νοημοσύνης, έκαναν επίσης εκτεταμένη χρήση αυτών των λέξεων, φράσεων κ.λπ. Κατά συνέπεια, βλέπουμε τώρα συγγραφείς να τροποποιούν το στυλ γραφής τους, όσο εντελώς ανθρώπινο κι αν είναι, προκειμένου να ικανοποιήσουν τους «θεούς» του Pangram και να αποφύγουν να χαρακτηριστούν ψευδώς ως προμηθευτές «άχρηστων αντικειμένων» που δημιουργούνται από την Τεχνητή Νοημοσύνη.
Ένα καλό παράδειγμα αυτού του φαινομένου συζητήθηκε πρόσφατα σε ένα άρθρο του Alex Kirshner για το Slate . Σε αυτό το άρθρο, ο Kirshner γράφει:
«Ανεξάρτητα από το πόσο ακριβείς θα γίνουν οι ανιχνευτές Τεχνητής Νοημοσύνης στο μέλλον, με προβληματίζει ο αντίκτυπος που έχουν πάνω μου αυτή τη στιγμή η γραφή και οι ανιχνευτές που παράγονται από την Τεχνητή Νοημοσύνη. Ανησυχώ για το πώς η γραφή που δημιουργείται από την Τεχνητή Νοημοσύνη και οι προσπάθειες ανίχνευσής της αλλοιώνουν εξ ολοκλήρου την ανθρώπινη γραφή. Γράφω όλη την εβδομάδα, κάθε εβδομάδα, και νιώθω ότι οι «εμπρηστές» σε αυτήν την ιστορία (γλωσσικά μοντέλα, ειδικά όταν χρησιμοποιούνται λανθασμένα) και οι «πυροσβέστες» (ανιχνευτές Τεχνητής Νοημοσύνης) επηρεάζουν αρνητικά τη δημιουργική μου διαδικασία.»
Όπως πολλοί δημοσιογράφοι, το στυλ γραφής μου πηγάζει από τα βιβλία, τα άρθρα εφημερίδων, τα ιστολόγια και (ναι) τις αναρτήσεις στα μέσα κοινωνικής δικτύωσης που έχουν εισχωρήσει στο μυαλό μου όλα αυτά τα χρόνια. Η γραφή που παράγεται από την τεχνητή νοημοσύνη έχει πλέον εισχωρήσει στη ροή της έμπνευσής μου, είτε μπορώ να εντοπίσω κάθε νέα γουλιά είτε όχι. Φαίνεται αναπόφευκτο ότι έχω αρχίσει να εσωτερικεύω τις ιδιορρυθμίες της, ακόμη και τις πιο διαβόητες, όπως η αδιάκοπη χρήση της παύλας και η υπερβολική χρήση της δομής "Δεν είναι το x αλλά το y". Από τη μία πλευρά, ανησυχώ ότι αυτό θα με κάνει χειρότερο συγγραφέα, μειώνοντας ένα ταλέντο που ήταν αρκετά καλό για να με προσλάβει εδώ (και αλλού!) στο επίπεδο του μέσου όρου που παράγεται από την τεχνητή νοημοσύνη. Ακόμα πιο τρομακτική είναι η πιθανότητα κάποιος - ή, Θεός να φυλάξω, ένας ανιχνευτής τεχνητής νοημοσύνης - να μπερδέψει το κείμενό μου με κάτι από το ChatGPT. Έχω αρχίσει να λογοκρίνω τον εαυτό μου για να αποφύγω αυτό το σενάριο. Τον τελευταίο καιρό, έχω βρεθεί να επεξεργάζομαι επανειλημμένα το δικό μου κείμενο για να ακούγεται "λιγότερο σαν τεχνητή νοημοσύνη". Με αυτόν τον τρόπο, πιθανότατα επέλεξα λέξεις που διαφορετικά δεν θα είχα σκεφτεί. Αισθάνομαι δυστοπικό - και αμφιβάλλω αν τα έχω καταφέρει.
Θα προχωρούσα ακόμη περισσότερο από τον Kirschner και θα υποστήριζα ότι αυτή η κατάσταση είναι αναμφίβολα δυστοπική. Ακόμα περισσότερο αν αναλογιστεί κανείς ότι τα υποτιθέμενα «αποκαλυπτικά» μοτίβα σε κείμενα που δημιουργούνται από την Τεχνητή Νοημοσύνη εξελίσσονται καθώς εισάγονται νέα, βελτιωμένα μοντέλα, ειδικά επειδή κυριολεκτικά κοσκινίζουν βουνά από άγνωστα βιβλία γραμμένα από ανθρώπους για να τους εκπαιδεύσουν να γράφουν όλο και περισσότερο σαν αυτούς. Εν τω μεταξύ, οι πραγματικοί άνθρωποι, προκειμένου να διατηρήσουν τις δουλειές τους σε έναν κόσμο όπου η ομάδα των επαγγελματιών συγγραφέων ήδη συρρικνώνεται ραγδαία, προσπαθούν να μην μοιάζουν με κάτι που εκπαιδεύεται να τους μοιάζει όσο το δυνατόν περισσότερο. Ίσως αυτό να είναι σκόπιμο: δεν είναι ένα παιχνίδι που οι άνθρωποι προορίζονται να κερδίσουν και, όπως θα εξηγήσω αργότερα, αυτό σημαίνει ότι είναι ένα παιχνίδι που οι συγγραφείς πρέπει να σταματήσουν γρήγορα να παίζουν.
Πριν φτάσουμε σε αυτό, υπάρχουν μερικά ακόμη σημεία που πρέπει να σημειωθούν σχετικά με την Pangram και άλλες εταιρείες που ειδικεύονται στην «ανίχνευση» κειμένου που δημιουργείται από τεχνητή νοημοσύνη. Ένα από αυτά είναι το ζήτημα των ψευδώς θετικών αποτελεσμάτων. Ναι, είναι αλήθεια ότι η Pangram θεωρείται από φαινομενικά ανεξάρτητους ερευνητές (καθώς και από την ίδια) ότι έχει το χαμηλότερο ποσοστό ψευδώς θετικών αποτελεσμάτων στον κλάδο. Για τους σκοπούς αυτού του παραδείγματος, ας επανεξετάσουμε τον ισχυρισμό της Pangram ότι μόνο 1 στις 10.000 ετικέτες που δημιουργεί σχετικά με την πατρότητα ενός κειμένου (τεχνητής νοημοσύνης ή ανθρώπου) είναι ψευδώς θετικό, που σημαίνει ότι το κείμενο επισημαίνεται ως δημιουργημένο από τεχνητή νοημοσύνη ενώ δεν είναι. Στο Substack, το οποίο πλέον ενσωματώνει την Pangram, δεν γνωρίζουμε ακριβώς πόσα άρθρα δημοσιεύονται κατά μέσο όρο κάθε μέρα, καθώς η Substack δεν αποκαλύπτει αυτές τις πληροφορίες, αλλά μπορούμε να κάνουμε μια εκτίμηση. Ο ίδιος ο ιστότοπος ισχυρίζεται ότι πάνω από ένα εκατομμύριο άρθρα «ανακαλύπτονται καθημερινά από πιθανούς συνδρομητές εντός της εφαρμογής ». Ο ιστότοπος διαθέτει πάνω από δύο εκατομμύρια ενεργές αναρτήσεις, οι περισσότερες από τις οποίες εμφανίζονται τουλάχιστον μία φορά την εβδομάδα. Ας υποθέσουμε, για χάρη αυτού του παραδείγματος, ότι αυτές οι δύο εκατομμύρια αναρτήσεις όντως εμφανίζονται εβδομαδιαίως. Σε αυτήν την περίπτωση, 200 από αυτές, σύμφωνα με το ποσοστό της Pangram, θα επισημαίνονται ως ψευδώς θετικά κάθε εβδομάδα. Σε διάστημα ενός έτους (52 εβδομάδες), αυτό αντιπροσωπεύει πάνω από 10.000 άρθρα Substack που έχουν ψευδώς χαρακτηριστεί ως δημιουργημένα από Τεχνητή Νοημοσύνη, ενώ δεν είναι. Ενώ αυτός ο αριθμός είναι σίγουρα χαμηλότερος από αυτόν που προσφέρουν οι ανταγωνιστές της Pangram, αν υποθέσουμε ότι αυτά τα 10.000 ψευδώς θετικά είναι σε διαφορετικές δημοσιεύσεις, θα μπορούσε να αντιπροσωπεύει 10.000 ανθρώπους συγγραφείς που έχουν ψευδώς χαρακτηριστεί ως "παραγωγή Τεχνητής Νοημοσύνης χαμηλής ποιότητας ", κάτι που θα επηρέαζε τη φήμη τους, το εισόδημά τους και ίσως το πιο σημαντικό, την εμπιστοσύνη που τους δείχνει το κοινό τους κατά τη διάρκεια αυτού του ημερολογιακού έτους. Το βλέπω αυτό ως μια προσπάθεια να μετατοπιστεί η εμπιστοσύνη στην αυθεντικότητα ενός συγγραφέα από τη σχέση του συγγραφέα με το κοινό του στο κοινό της Pangram.
Παρόλο που αυτά είναι στατιστικά στοιχεία που χρησιμοποιούνται από την Pangram και τους συνεργάτες της για σκοπούς μάρκετινγκ, πίσω από αυτά τα στοιχεία κρύβονται πραγματικοί ανθρώπινοι συγγραφείς που αντιμετωπίζουν κατηγορίες από την Τεχνητή Νοημοσύνη της Pangram, οι οποίες θα μπορούσαν να καταστρέψουν τις επιχειρήσεις τους. Καθώς αυτό το φαινόμενο συσσωρεύεται με την πάροδο των ετών, θα μπορούσε θεωρητικά να μειώσει τον αριθμό των ανθρώπων συγγραφέων των οποίων τα έργα δεν έχουν αναγνωριστεί ως δημιουργημένα από την Pangram από την Τεχνητή Νοημοσύνη. Είναι επίσης δίκαιο να πούμε ότι το ποσοστό ψευδώς θετικών αποτελεσμάτων που αναφέρει η Pangram είναι το χαμηλότερο που έχει βρεθεί στην έρευνα για το προϊόν της και αναφέρεται συχνότερα επειδή η εταιρεία το θεωρεί πιο πλεονεκτικό. Είναι απολύτως εύλογο ότι το πραγματικό ποσοστό ψευδώς θετικών αποτελεσμάτων είναι υψηλότερο. Σε αυτό προστίθεται το γεγονός ότι εάν υποβάλετε το ίδιο κείμενο στην Pangram περισσότερες από μία φορές, πιθανότατα θα λάβετε εξαιρετικά μεταβλητά - και ασυνεπή - αποτελέσματα, δίνοντας την εντύπωση ότι οι ετυμηγορίες της Pangram βασίζονται περισσότερο στην τύχη παρά στην ουσιαστική «ανίχνευση» της χρήσης Τεχνητής Νοημοσύνης.
Μια άλλη σημαντική πτυχή που πρέπει να διερευνηθεί σχετικά με την Pangram είναι η πιθανότητα αυτό το εργαλείο να μπορεί να χρησιμοποιηθεί σκόπιμα ως όπλο για λογοκρισία ή/και δυσφήμιση ενός δεδομένου δημοσιογράφου ή μέσου ενημέρωσης. Ο Max Spero, συνιδρυτής της Pangram, έχει κατηγορηθεί αξιοσημείωτα ότι χρησιμοποίησε τον λογαριασμό του στο Twitter για να καταγγείλει συγκεκριμένα μέσα ενημέρωσης και δημοσιογράφους για τη χρήση της Τεχνητής Νοημοσύνης, κάτι που -τους τελευταίους μήνες- έχει γίνει πρωτοσέλιδο και έχει προκαλέσει σημαντική διαμάχη. Δεν νομίζω ότι είναι πραγματικά σχετικό, στο πλαίσιο αυτού του άρθρου, να εξεταστεί εάν οι ισχυρισμοί εναντίον αυτών των δημοσιογράφων και μέσων ενημέρωσης είναι βάσιμοι ή όχι. Όπως επισημάνθηκε πρόσφατα, η Pangram παράγει ψευδώς θετικά αποτελέσματα, αλλά είναι επίσης πιθανό αυτοί οι δημοσιογράφοι να χρησιμοποίησαν την Τεχνητή Νοημοσύνη με κάποιο τρόπο χωρίς να την αποκαλύψουν. Αυτό που έχει σημασία εδώ, ωστόσο, είναι ότι ο Spero, ειδικότερα, χρησιμοποίησε την ετυμηγορία του "ανιχνευτή" Τεχνητής Νοημοσύνης της εταιρείας του για να εξαπολύσει προσβλητικές κατηγορίες εναντίον συγκεκριμένων δημοσιογράφων και μέσων ενημέρωσης.
Ως μακροχρόνιος αρθρογράφος για ανεξάρτητα μέσα ενημέρωσης, έχοντας γράψει τακτικά για αμφιλεγόμενα θέματα πολύ πριν γίνει ασφαλέστερο να το κάνω (βλ. την πρώιμη δουλειά μου για τους δεσμούς του Epstein με τις ισραηλινές μυστικές υπηρεσίες, τον Peter Thiel και το Palantir, μεταξύ άλλων θεμάτων), δεν είμαι μεγάλος οπαδός των mainstream ή «παραδοσιακών» μέσων ενημέρωσης. Σε αρκετές περιπτώσεις, είτε με έχουν δυσφημίσει είτε έχουν χρησιμοποιήσει την έρευνα και το γραπτό μου χωρίς να αποδίδουν τα εύσημα. Έχω επίσης περάσει ένα μεγάλο μέρος της καριέρας μου ξετυλίγοντας τις συχνά παραπλανητικές αφηγήσεις που διαδίδουν. Ως αποτέλεσμα, τείνω να είμαι επιφυλακτικός ως προς την αυθεντικότητα και την ακρίβεια των άρθρων που δημοσιεύονται από πολλά από τα ίδια μεγάλα μέσα ενημέρωσης που έχει στοχεύσει ο Spero. Ωστόσο, ένα άλλο απόσπασμα του Spero μπορεί να τραβήξει την προσοχή σας αν έχετε παρακολουθήσει στενά τα ανεξάρτητα μέσα ενημέρωσης την τελευταία δεκαετία.
Σε ένα άρθρο του TechCrunch σχετικά με τον πρόσφατο γύρο χρηματοδότησης 9 εκατομμυρίων δολαρίων της Pangram, ο Spero εξήγησε ότι ήθελε να δημιουργήσει την Pangram για να μετριάσει τα νέα προβλήματα που προκύπτουν από τη δημόσια διαθεσιμότητα εργαλείων γενετικής Τεχνητής Νοημοσύνης. Για να δείξει τα είδη προβλημάτων που προκύπτουν από την αυξανόμενη χρήση της Τεχνητής Νοημοσύνης, ο Spero ανέφερε «εκστρατείες παραπληροφόρησης που βασίζονται σε μοντέλα ρωσικής γλώσσας (LLM) και εκστρατείες που επηρεάζονται από τα ΗΑΕ στο Twitter » .
Ίσως θυμάστε επίσης, πιο πρόσφατα, φιλοϊσραηλινούς influencers και μέσα ενημέρωσης που ισχυρίζονταν ότι η κριτική κατά του Ισραήλ τα τελευταία χρόνια υποκινούνταν από τη χρηματοδότηση του Κατάρ και όχι από την δημόσια αγανάκτηση για τη ζωντανή μετάδοση της γενοκτονίας των Παλαιστινίων στη Γάζα από το Ισραήλ. Ή αυτόν τον τελευταίο ισχυρισμό ότι κινεζικοί λογαριασμοί bot που τροφοδοτούνταν από πτυχιούχους LLM, οι οποίοι δεν είχαν καμία απολύτως εμβέλεια , βρίσκονταν στην πραγματικότητα κρυφά πίσω από την αυξανόμενη δυσπιστία των ΗΠΑ απέναντι στις μεγάλες τεχνολογίες και τη δυσαρέσκειά τους με τα κέντρα δεδομένων;
Αν παρακολουθείτε αυτές τις ειδήσεις για αρκετό καιρό, ίσως έχετε παρατηρήσει ένα μοτίβο σύμφωνα με το οποίο οι επικριτές ορισμένων δομών εξουσίας χαρακτηρίζονται συστηματικά και λανθασμένα ως κρατικά υποστηριζόμενοι προπαγανδιστές ή «bots», με στόχο την δυσφήμιση όχι μόνο των ίδιων των επικριτών αλλά και της ευρύτερης ανησυχίας που εκφράζουν - είτε πρόκειται για τον αντίκτυπο των κέντρων δεδομένων είτε για τους ιμπεριαλιστικούς πολέμους. Δεν ξέρω αν η πρόθεση του Spero με την Pangram είναι να οπλίσει το προϊόν της εταιρείας του με τον ίδιο τρόπο, αλλά είναι σίγουρα δυνατό.
Ωστόσο, το γεγονός ότι η εταιρεία του Spero, η Pangram, συνεργάζεται με την NewsGuard σίγουρα ενισχύει αυτή την πιθανότητα. Όπως έγραψα το 2019 , το NewsGuard είναι ένα αμφίβολο «εργαλείο ελέγχου γεγονότων» που δημιουργήθηκε αρχικά για να δυσφημίσει ανεξάρτητα μέσα ενημέρωσης που ασκούν κριτική στην εξωτερική πολιτική των ΗΠΑ, ενώ παράλληλα επέτρεπε την πρόσβαση σε αποδεδειγμένα αμερικανικά μέσα προπαγάνδας όπως η VOA . Τώρα, με την Pangram, η NewsGuard καθορίζει τι συνιστά «παραγωγή περιεχομένου χαμηλής ποιότητας που παράγεται από τεχνητή νοημοσύνη» και τι όχι, και έχει χρησιμοποιήσει την Pangram για να λανσάρει μια υπηρεσία για «ανίχνευση σε πραγματικό χρόνο των «φάρμων περιεχομένου που παράγονται από τεχνητή νοημοσύνη» » .
Ποιος καλύτερος τρόπος για να εξουδετερωθεί ψηφιακά μια ομάδα δημοσιογράφων και οποιοδήποτε συνοδευτικό κύμα κοινής γνώμης από το να χρησιμοποιηθεί ένας πλέον «αξιόπιστος» ανιχνευτής τεχνητής νοημοσύνης για να χαρακτηρίσει τόσο τους συγγραφείς όσο και την άποψη ως μη αυθεντικά και μηχανικά παραγόμενα; Το Pangram θα μπορούσε κάλλιστα να γίνει ένα νέο μέσο λογοκρισίας ανθρώπινου περιεχομένου που θεωρείται άβολο, ειδικά εάν το περιεχόμενο που χαρακτηρίζεται ως παραγόμενο από τεχνητή νοημοσύνη καταλήξει να τίθεται αλγοριθμικά σε δεύτερη μοίρα σε σύγκριση με αυτό που η Pangram θεωρεί ανθρώπινο περιεχόμενο. Το κοινό θα ενημερωθεί ότι «περιεχόμενο χαμηλής ποιότητας που παράγεται από τεχνητή νοημοσύνη» αφαιρείται, ενώ στην πραγματικότητα πρόκειται για διαφωνία.
Μου φαίνεται ότι η Pangram βρίσκεται αυτή τη στιγμή στη φάση της ομαλοποίησης της πανταχού παρουσίας του προϊόντος της και της οικοδόμησης εμπιστοσύνης με όσους χρησιμοποιούν το Substack ή οποιαδήποτε άλλη πλατφόρμα (ή επέκταση προγράμματος περιήγησης) που ενσωματώνει την Pangram. Κατά τη διάρκεια αυτής της περιόδου, οι αναγνώστες θα έχουν την εξοικείωση να βλέπουν μια ετικέτα Pangram και να βασίζονται στα αποτελέσματά της χωρίς να χρειάζονται πρόσθετες πληροφορίες. Έτσι, μια εταιρεία όπως η Pangram μπορεί να συγκεντρώσει 14 εκατομμύρια δολάρια σε χρηματοδότηση (συμπεριλαμβανομένης και από έναν από τους κύριους επενδυτές της Anthropic ) για ένα προϊόν που διατίθεται δωρεάν. Όπως έχει ειπωθεί προηγουμένως για τα διαδικτυακά προϊόντα, εάν το προϊόν είναι δωρεάν, εσείς είστε το προϊόν. Σε αυτήν τη συγκεκριμένη περίπτωση, νομίζω ότι η εξοικείωσή σας με την εξοικείωση να μεταφέρετε την εμπιστοσύνη σας στην Pangram και όχι στο άτομο ή το μέσο ενημέρωσης που διαβάζετε αποτελεί το προϊόν. Μόλις εμπιστευτείτε ένα εργαλείο "ανίχνευσης" που βασίζεται στην τεχνητή νοημοσύνη, θα βασιστείτε στις ετυμηγορίες του, ίσως ακόμη περισσότερο από ό,τι στον συγγραφέα που έχετε μάθει να εμπιστεύεστε.
Οι συνιδρυτές της Pangram δεν δημιούργησαν την Pangram για να προστατεύσουν τη γραφή και τον λόγο που δημιουργείται από τον άνθρωπο. Είναι εδώ και καιρό πεπεισμένοι ότι η Τεχνητή Νοημοσύνη θα «μεταμορφώσει την κοινωνία» και λίγο πριν ιδρύσουν την Pangram, ανέπτυσσαν αλγόριθμους για να αντικαταστήσουν τους ανθρώπινους οδηγούς με την Τεχνητή Νοημοσύνη. Όπως αναφέρθηκε παραπάνω, δημιούργησαν την Pangram για να σταματήσουν αυτό που ονόμασαν κρατικά υποστηριζόμενες επιχειρήσεις επιρροής, μεταξύ άλλων «προβλημάτων» που προέκυψαν με τη δημόσια κυκλοφορία εργαλείων γενετικής Τεχνητής Νοημοσύνης. Καθώς οι πρώην εργοδότες τους στις μεγάλες τεχνολογικές εταιρείες αντιμετωπίζουν δημόσια αντίδραση για κέντρα δεδομένων, έξυπνα γυαλιά και άλλα ζητήματα, οι συνιδρυτές της Pangram θα μπορούσαν να προσφέρουν έναν νέο τρόπο για να απαλλαγούν από λογαριασμούς που θεωρούνται υπερβολικά επικριτικοί για τον «μετασχηματισμό» της κοινωνίας από την Τεχνητή Νοημοσύνη. Ίσως όχι, αλλά συγχωρήστε τον σκεπτικισμό μου.
Συμπερασματικά, θα ήθελα να επιστρέψω για άλλη μια φορά στο βιβλίο των Schmidt και Kissinger για την Τεχνητή Νοημοσύνη και τις προβλέψεις της. Στα ανεξάρτητα μέσα ενημέρωσης, πολλοί προειδοποιούν για την εγελιανή διαλεκτική, γνωστή και ως «πρόβλημα-αντίδραση-λύση». Με άλλα λόγια, όσοι βρίσκονται στην εξουσία πρώτα δημιουργούν το πρόβλημα, στη συνέχεια περιμένουν να αντιδράσει το κοινό και τέλος προσφέρουν στο κοινό, ως λύση, το πολιτικό αποτέλεσμα που πάντα επιθυμούσαν. Είναι σίγουρα βολικό το γεγονός ότι ο Schmidt και ο Kissinger, δύο εντελώς δυσάρεστες προσωπικότητες που έχουν συμβάλει και οι δύο σε αυτό το χάος με διαφορετικούς τρόπους, προέβλεψαν προφητικά ότι η Τεχνητή Νοημοσύνη θα καθιστούσε αδύνατο για τους ανθρώπους να διακρίνουν την αλήθεια από το ψεύδος. Σήμερα, η πρόβλεψή τους έχει γίνει η πραγματικότητά μας και, όπως αναμενόταν, η εταιρεία Pangram παρενέβη για να λύσει το πρόβλημα της παραπληροφόρησης που παράγεται από την Τεχνητή Νοημοσύνη (από την οποία επωφελούνται οι δικοί της επενδυτές) προσφέροντάς μας αυτό που ήταν επίσης η «λύση» που προτιμούσαν ο Schmidt και ο Kissinger: ότι οι άνθρωποι βασίζονται σε έναν διαιτητή της Τεχνητής Νοημοσύνης για να τους πει τι είναι πραγματικό και τι όχι.
Όπως έγραψα προηγουμένως, η προφανής λύση για να ξεφύγετε από αυτό το δυστοπικό παιχνίδι είναι να μην το παίξετε. Μην εμπιστεύεστε την Τεχνητή Νοημοσύνη της Pangram απλώς και μόνο επειδή φαίνεται «έγκυρη» και έχει λάβει θετική δημοσιότητα. Δεν είναι «ανιχνευτής» όπως ισχυρίζεται ότι είναι, και τα αποτελέσματά της για το ίδιο κείμενο σπάνια είναι συνεπή. Εάν είστε αναγνώστης, ζητήστε από τους συγγραφείς που διαβάζετε να αποκαλύψουν εάν χρησιμοποιούν Τεχνητή Νοημοσύνη. Η εμπιστοσύνη θα πρέπει να εδραιώνεται απευθείας μεταξύ των συγγραφέων και των αναγνωστών τους, χωρίς μεσάζοντες ή κριτές αυθεντικότητας ή «ανθρωπιάς» από την Τεχνητή Νοημοσύνη. Στο Unlimited Hangout , δεν χρησιμοποιούμε ποτέ Τεχνητή Νοημοσύνη για τη συγγραφή, την έρευνα ή την κριτική των άρθρων μας. Αυτό αναφέρεται σαφώς στην Πολιτική Χρήσης Τεχνητής Νοημοσύνης, την οποία θα μπορείτε να διαβάσετε στη σελίδα μας «Σχετικά» μόλις κυκλοφορήσει ο πρόσφατα ανασχεδιασμένος ιστότοπος Unlimited Hangout (εν τω μεταξύ, μπορείτε να τον διαβάσετε εδώ ). Αναπτύξαμε αυτήν την πολιτική αφού συμβάλαμε στη δημιουργία της Δέσμευσης Διαφάνειας Τεχνητής Νοημοσύνης της IMA, η οποία ενθαρρύνει ανεξάρτητους δημοσιογράφους και μέσα ενημέρωσης να αποκαλύψουν οικειοθελώς εάν και πώς επιλέγουν να χρησιμοποιήσουν την Τεχνητή Νοημοσύνη.
Όπως κάθε άλλος άνθρωπος συγγραφέας, το μόνο που μπορώ να προσφέρω στους αναγνώστες μου είναι η έρευνά μου, οι πηγές μου, η γνήσια ανάλυσή μου και, στην περίπτωση αυτού του άρθρου, οι απόψεις μου. Δεν πρόκειται να γράψω με εμμονή τα άρθρα μου στο Pangram με την ελπίδα να επιτύχω ένα αποτέλεσμα "100% ανθρώπινου δημιουργήματος". Δεν πρόκειται να αφήσω τον φόβο ενός δυσμενούς αποτελέσματος στο Pangram να αλλάξει το γράψιμό μου ή να με κάνει να φοβάμαι να χρησιμοποιήσω λέξεις όπως "εμβαθύνω" ή "βαθιά" από φόβο ότι το Pangram θα με τιμωρήσει. Ξέρω ότι γράφω χωρίς Τεχνητή Νοημοσύνη και εμπιστεύομαι τους αναγνώστες μου αρκετά ώστε να γνωρίζουν ότι ούτε εγώ τη χρησιμοποιώ στο γράψιμό μου. Όπως οι οντότητες που έχουν χαρακτηρίσει τους προβληματικούς δημοσιογράφους ως Ρώσους ή Κινέζους "bots", το Pangram υποθέτει ότι δεν μπορείτε να καθορίσετε μόνοι σας τι είναι αυθεντικό και τι όχι και ότι χρειάζεστε να σας πουν.
Παρόλο που η κριτική σκέψη γίνεται σπάνια στην εποχή της Τεχνητής Νοημοσύνης, μην την αφήσετε να εξαφανιστεί. Δεν χρειάζεστε άλλη Τεχνητή Νοημοσύνη για να σας «βοηθήσει» να προσδιορίσετε τι φαίνεται αυθεντικό ή όχι. Δεν τη χρειάζεστε για να σας πει τι πρέπει ή δεν πρέπει να διαβάσετε ή ποιον πρέπει ή δεν πρέπει να εμπιστευτείτε. Δεν είναι ποτέ καλή ιδέα να εμπιστεύεστε την κριτική σκέψη και τις απόψεις σας σε άλλους, ειδικά σε μια μη ανθρώπινη Τεχνητή Νοημοσύνη.
Πηγή: Απεριόριστα Hangouts
222%20(3)%20(3).jpg)
0 comments: