Γιώργος Ανδρέου τραγουδοποιός

«Αδύνατο να γράψει η Τεχνητή Νοημοσύνη με αίσθημα»

Ειλικρινά δεν μπορώ να αντιληφθώ τον λόγο (εκτός από ιδιοτελή οικονομικά χρηστικά οφέλη) για τον οποίο η Τεχνητή Νοημοσύνη «πρέπει» να «γράψει» ποιήματα, να «συνθέσει» μουσικές, να «ζωγραφίσει» κ.λπ. Μπορώ να κατανοήσω τη σημασία και την ωφέλειά της στους τομείς της επιστημονικής έρευνας – εκεί η συμβολή της μπορεί να είναι σημαντική και πιθανόν πολύτιμη. Για ποιον λόγο όμως θα έπρεπε η ΤΝ να επιδοθεί στον απεχθή πλαγιαρισμό της ΜΙΜΗΣΗΣ έργων τέχνης; Ας δούμε πώς λειτουργεί όλο αυτό: Ενα λειτουργικό (αυτό της ΤΝ) τροφοδοτείται με έναν εξαιρετικά μεγάλο αριθμό δειγμάτων από εργα της γραφής (ή της μουσικής), έργα που δημιούργησε η ανθρώπινη καλλιτεχνική δράση. Με «προγραμματισμό» αυτή η δειγματοληψία εμπλουτίζεται με μια σειρά από κατηγοριοποιήσεις για τα έργα τέχνης που «υπέκλεψε» («γνωστό», «αγαπητό», «άγνωστο», «δημοφιλές» κ.λπ.). Το αποτέλεσμα είναι η δημιουργία αλγορίθμων που μιμούνται στυλ και είδη, κατασκευάζοντας (κυριολεκτικά) ομοιώματα έργων τέχνης. Ο μεγάλος κίνδυνος είναι η παραβίαση του σπουδαιότερου ηθικού συμβολαίου του ανθρώπινου πολιτισμού: η τέχνη (οφείλει να) προέρχεται και (να) δημιουργείται από ανθρώπους, είναι πρωτότυπη όσο και καταγόμενη από τα χρονικά προηγούμενα έργα τέχνης – οι δημιουργοί της ωστόσο δεν αντιγράφουν αλλά επηρεάζονται (δημιουργικά) από τους μεγάλους προπάτορες, με τους οποίους διαλέγονται σε ένα τελικά αχρονικό σύμπαν έργων που σηματοδοτούν τον ανθρώπινο πολιτισμό. Ο άνθρωπος μόνον μπορεί (και δικαιούται) να παράγει έργα τέχνης, έργα που πραγματεύονται την υπαρκτική αγωνία του και το μέγα αίνιγμα του θανάτου. Πιστεύω πως ο ανθρώπινος πολιτισμός οφείλει να αποτρέψει οποιαδήποτε σύνδεση της ΤΝ με τη «δημιουργία» έργων τέχνης. Πρόκειται για θλιβερή απόπειρα μετατροπής του έργου τέχνης σε ένα υλικά προγραμματιζόμενο προϊόν – απόπειρα που αν νομιμοποιηθεί θα έχει ανυπολόγιστες συνέπειες (εντελώς αρνητικές) για τον ανθρώπινο ψυχισμό και τον ανθρώπινο πολιτισμό. Ο κίνδυνος γίνεται μεγαλύτερος από την εξηγήσιμη αδυναμία του καλόπιστου αναγνώστη ή ακροατή να γνωρίζει κάθε καλλιτεχνικό έργο, τμήμα του οποίου συμπεριλαμβάνεται (με τρόπο εντελώς αυθαίρετο και αντίθετο με την πρόθεση του δημιουργού του) σε ένα τεχνητά δημιουργημένο «έργο Τέχνης» και η εξαπάτηση αυτή μπορεί να οδηγήσει σε συνδέσεις των ανθρώπων με προϊόντα που καταργούν ένα βασικό χαρακτηριστικό του έργου τέχνης: την αθωότητα του βλέμματός του, την καταγωγή της έμπνευσής του από κεντρικές ιδιότητες της ανθρώπινης ύπαρξης.

Από την ΤΝ είναι αδύνατον να γραφτούν έργα που περιέχουν το βίωμα, το συναίσθημα – όλα αυτά αποτελούν ιδιότητες του ψυχισμού του ανθρώπου κι όχι πειράματα σε ένα εργαστήριο από «επιστήμονες» που παίζουν «εν ου παικτοίς» και ως μαθητευόμενοι μάγοι, με ανυπολόγιστες καταστροφικές συνέπειες. Οφείλει η ανθρωπότητα να ανανεώσει ένα ηθικό συμβόλαιο ως προς τα όρια της επιστημονικής πρακτικής. Αυτό που αναφέρει ο Ιπποκράτης είναι μια καλή αρχή – «αν δεν μπορείς με τις πρακτικές σου να θεραπεύσεις, τουλάχιστον να μη βλάψεις».

g

Νίκος Ερηνάκης, επίκ. καθηγητής Πολιτικής Φιλοσοφίας & Φιλοσοφίας του Πολιτισμού Π.Κ., ποιητής

«Η ΤΝ μπορεί μόνο να πλαισιώσει, να χρησιμοποιήσει, να ανασυνθέσει»

Εν μέσω των πολυμορφικών κρίσεων που βιώνουμε (πολιτισμική, κοινωνικοπολιτική, περιβαλλοντική κ.ά.) αντιμετωπίζουμε τη μεγαλύτερη ίσως πρόκληση στην ιστορία του είδους μας: δημιουργήσαμε μια έτερη, τεχνητή μορφή νοημοσύνης με τη δυνητικότητα να προσιδιάζει σε εμάς, αν όχι και να ταυτιστεί μαζί μας ή να μας υπερβεί. Σε αυτό το τόσο ενδιαφέρον σταυροδρόμι, γεμάτο οραματικά οφέλη αλλά έως και υπαρξιακές απειλές, αν θέλουμε να οδηγηθούμε προς ευτοπίες και όχι δυστοπίες, πρέπει να αναστοχαστούμε ριζικά τι συγκροτεί πιο θεμελιωδώς την ανθρωπινότητά μας και ποιες είναι οι κύριες διαχωριστικές γραμμές με την τεχνητή νοημοσύνη (ΤΝ) (ή ακόμα περισσότερο την τεχνητή γενική νοημοσύνη, δηλαδή την ΤΝ που θα προσιδιάζει ολιστικά στην ανθρώπινη φύση). Με βάση την ποίηση και τη φιλοσοφία (που τουλάχιστον για μένα αποτελούν πάντα τη βάση όλων), ας μου επιτραπεί η πρόταση πως κυρίως σε αυτές και μέσω αυτών μπορούμε να εντοπίσουμε τι μας καθιστά αυτό που είμαστε, αλλά και αυτό που θα θέλαμε να γίνουμε.

Αποφεύγοντας τόσο την τεχνοφοβία όσο και την τεχνολαγνεία, ακολουθώντας μια ήπια τεχνοφιλία, αναρωτιέμαι γιατί η ναρκισσιστική φύση του είδους μας υπερισχύει, θέλοντας να δημιουργήσουμε την ΤΝ αναγκαστικά κατ’ εικόνα και καθ’ ομοίωσίν μας, έναντι της δημιουργικής μας φύσης που θα έθετε τον στόχο να δημιουργήσουμε την ΤΝ ως μια ετερότητα που θα συμπληρώνει όσα δεν μπορούμε να κάνουμε εμείς αντί να αντιγράφει ή υποκαθιστά εμάς. Πιστεύω πως οφείλουμε να μεριμνήσουμε ώστε η ΤΝ να κάνει πράγματα για εμάς και όχι σε εμάς.

Η ΤΝ γράφει ποίηση, αλλά δεν την κατανοεί εννοιολογικά, συναισθηματικά ή βιωματικά. Τα περίφημα πλέον μεγάλα γλωσσικά μοντέλα (LLMs), όπου βασίζεται και το ChatGPT κ.ά., που χρησιμοποιούν τεχνικές βαθιάς μάθησης (deep learning) αξιοποιώντας τα μεγάλα δεδομένα (big data) και προσιδιάζουν στην ανθρώπινη παραγωγή λόγου, όσο εντυπωσιακά και χρήσιμα κι αν είναι, παραμένουν κενά νοηματοδότησης και νοηματοποίησης. Η αληθινή ποίηση, όσο σπάνια πράγματι είναι, μέσω ενός ενοποιημένου δημιουργικού λόγου, δεν διευρύνει απλώς τα πεδία του γνωστού και του εφικτού, αλλά τα μετασχηματίζει. Υπάρχουν φιλοσοφικές ιδέες και ποιητικοί στίχοι που άλλαξαν τον κόσμο, και αυτά θα συνεχίζουν να τον αλλάζουν. Είναι ιδέες και στίχοι που η ΤΝ δεν μπορεί να δημιουργήσει, παρά μόνο να πλαισιώσει, να χρησιμοποιήσει και να ανασυνθέσει.

Γιατί αυτό που απουσιάζει από την ΤΝ είναι η γνήσια ευαισθησία ως προς το δημιούργημα, το περιεχόμενό του, το νόημά του και τη στοχοθεσία του. Οταν ένας άνθρωπος γράφει ποίηση παράγει, ή τουλάχιστον μάχεται να παράξει, (μετασχηματιστικό) νόημα, ή έστω και κάποιο σχόλιο ακόμα και για την απουσία νοήματος. Η προθεσιακότητα κυριαρχεί, όπως και το κάλεσμα για το άνοιγμα στο απροσδόκητο, η ανάγκη για την περιπέτεια της δημιουργίας του νέου καίει μέσα του. Αλλο η καινοτομία και άλλο η αυθεντικότητα. Αλλο το φαίνεσθαι και άλλο το είναι. Αλλο λοιπόν το ανθρωποειδές και άλλο το ανθρώπινο (όπως άλλο η ανθρωπιά και άλλο η ανθρωπινότητα).

Νιώθουμε τέτοια καλλιτεχνική, δημιουργική, έως και υπαρξιακή απειλή από την ΤΝ, όχι επειδή η ίδια έχει απομαγεύσει τον κόσμο μας, αλλά επειδή εμείς επιτρέψαμε την απομάγευσή του. Ο στόχος λοιπόν είναι η επαναμάγευση του κόσμου, η ουσιώδης ποιητική κατοίκηση αυτού του κόσμου, η ισοαυθεντική συνύπαρξη και συνδημιουργία ανάμεσά μας – είναι ο μόνος τίμιος αγώνας, και η ΤΝ δεν μπορεί να τον νιώσει. Μπορεί, ωστόσο, να αποτελέσει ένα θαυμάσιο εργαλείο μας. Δεν χρειάζεται να δημιουργήσουμε μια τεχνητή πηγή που να μπορεί να αγαπάει σαν άνθρωπος έτσι ώστε να μπορεί και να δημιουργεί σαν άνθρωπος. Χρειάζεται να φροντίσουμε εμείς να αγαπάμε ως άνθρωποι, με μεγαλύτερη πληρότητα και ανιδιοτέλεια. Να ενεργοποιήσουμε εκ νέου τη δημιουργικότητά μας μαχόμενοι την παθητικότητα του ετεροκαθορισμού, με αυτοπεποίθηση για την αυθεντικότητά μας που βασίζεται στην ποιητική διάσταση του βίου μας. Και ας επιτρέψουμε σε αυτή την τεχνητή πηγή να παράγει κάτι έτερο από εμάς που πιθανότητα θα έχει να μας διδάξει πολλαπλώς. Προσωπικά θεωρώ την αυθεντικότητα-ως-δημιουργικότητα την πλέον χαρακτηριστική πτυχή της ανθρωπινότητάς μας και η ανθρωπινότητά μας δεν χρειάζεται αντιγραφή. Ωστόσο, σίγουρα χρειάζεται ριζική ανάπτυξη από πλευράς μας και, γιατί όχι, και εμπλουτισμό από όποια πηγή ετερότητας εμείς κρίνουμε ηθικά άρτιο να επιτρέψουμε.

g

Οδυσσέας Ιωάννου, στιχουργός – δημοσιογράφος

«Το αίσθημα δεν αποτυπώνεται με κανόνες, αλλά με το αντίθετό τους»

Σε οτιδήποτε έχει να κάνει με νέες τεχνολογίες η ερώτηση που θέτω πάντα είναι ποιος τις χειρίζεται. Δεν είμαι καθόλου τεχνοφοβικός και ο σκεπτικισμός μου εξαντλείται στη χρήση αλλά κυρίως στην κατοχή των τεχνολογιών. Θεωρώ δηλαδή πως είναι πρωτίστως θέμα πολιτικό. Οσον αφορά τον στίχο και γενικότερα οποιονδήποτε γραπτό κώδικα τέχνης δεν με τρομάζει καθόλου για δύο λόγους, έναν πρωτεύοντα και έναν δευτερεύοντα. Ο δευτερεύων είναι πως δέχομαι ότι απλώς μεγαλώνει ο «ανταγωνισμός», είναι σαν να μου λέει κάποιος πως ενώ μέχρι τώρα έγραφαν δέκα άνθρωποι, από αύριο θα γράφουν πενήντα. Δεν είναι κάτι που θα αλλάξει στο ελάχιστο τον δικό μου τρόπο.

Ο πρωτεύων λόγος είναι πως από τις μέχρι τώρα πληροφορίες μου αλλά και τα αποτελέσματα η Τεχνητή Νοημοσύνη αντιμετωπίζει τη γραφή σαν μια σωστή παράθεση λέξεων και νοημάτων. Η τέχνη όμως δεν είναι αυτό. Το βίωμά μας, το αίσθημά μας δεν αποτυπώνεται στο χαρτί με βάση τους κανόνες αλλά με βάση το ακριβώς αντίθετο. Το αδιανόητο, το ακανόνιστο, το απρόβλεπτο. Δεν γράφουμε «σωστά», γράφουμε με ρωγμές και λάθη. Δεν προσπαθούμε να υποδυθούμε καμία τελειότητα, αντιθέτως προσπαθούμε να εκφράσουμε απλά και κανονικά πράγματα με τον πλέον μη κανονικό τρόπο. Αυτά είναι ψιλά γράμματα ακόμη για την Τεχνητή Νοημοσύνη. Η τέχνη δεν πηγαίνει αγκαλιά με την τελειότητα και όσες και να είναι οι πληροφορίες και τα δεδομένα  που θα φορτώσουμε σε έναν υπολογιστή, ποτέ δεν θα καταφέρει το πρόγραμμα να γράψει εκείνη τη μικρή δισύλλαβη λέξη που θα δώσει όλο το αίμα σε ένα τραγούδι, σε ένα κείμενο.

g

Μανώλης Φάμελλος, τραγουδοποιός – Πρόεδρος του Οργανισμού Συλλογικής Διαχείρισης ΕΡΑΤΩ

«Χαρίζουμε σε μια μηχανή την ουσία, με αντάλλαγμα ένα ποσοστό των κερδών»

Ποιος αποφάσισε να μας «χαρίσει» ξαφνικά τη δυνατότητα να δημιουργούμε κακέκτυπα έργων που δανείζονται «ελεύθερα» ή αντιγράφουν στοιχεία της δουλειάς, της γραφής, της φωνής επώνυμων ή όχι καλλιτεχνών (χωρίς καν να τους ρωτήσει…);

Μα οποιοσδήποτε ακουσίως ή εκουσίως υπηρετεί τη σύγχρονη κοινοτοπία του κακού που θέλει να πιστέψουμε πως οτιδήποτε μοιάζει εφικτό, έχει νόημα να το πραγματοποιήσουμε αφού πιθανότατα θα βρει τρόπο να «αναπτυχθεί», να αποφέρει δηλαδή κάποιο όφελος στην υπάρχουσα αγορά ή να δημιουργήσει μία νέα. Μέσα στα τόσα άυλα και υλικά (και περιττά) «αγαθά» που παράγονται και καταναλώνονται, γιατί να μην παίξουμε με νηπιακή άγνοια κινδύνου και με αυτή τη δυνατότητα;

Πιστεύω πως ένα «ζωτικό» κενό υπάρχει ιδρυτικά στον πυρήνα της ύπαρξής μας, ίσως ολόκληρη η αρχιτεκτονική του εσωτερικού μας κόσμου να στηρίζεται σε αυτό.

Η τέχνη και η μεταφυσική προσπαθούν να το εξερευνήσουν και να το καλλιεργήσουν. Τις κοπιαστικές προσπάθειες αυτές, το κενό της ανταμείβει, οι καρποί τους είναι η παγκόσμια πολιτιστική μας κληρονομιά.

Παράλληλα, η τεχνική (δεσμευμένη εσχάτως στην υπηρεσία της αγοράς) προσπαθεί να το εξαλείψει ή να το ξεγελάσει… Τότε εκείνο αντεπιτίθεται με σκληρότητα και επεκτείνει την επικράτειά του.

Αν στην εξίσωση προσθέσουμε την (όχι και τόσο παράξενη) αμηχανία των θεσμών, το επακόλουθο κενό εξουσίας που έχουν υπερκαλύψει οι εταιρείες-κολοσσοί (που δεν χάνουν ευκαιρία να μας διευκολύνουν τη ζωή παντοιοτρόπως), μοιάζει να πηδάμε σε ένα άλλο κενό πια χωρίς επιστροφή, από κεκτημένη ταχύτητα ή λόγω της εγγενούς μελαγχολίας του είδους που εξελίσσεται πια σε απελπισία… Χαρίζοντας σε μια μηχανή την ουσία με αντάλλαγμα ένα ποσοστό των κερδών, αποδεχόμαστε το γεγονός πως είμαστε πια ανίκανοι να διαχειριστούμε τις επιθυμίες μας, να μπούμε στον κόπο να ζήσουμε από πρώτο χέρι την εμπειρία, να ανοιχτούμε στο άγνωστο και να φάμε τα μούτρα μας.

Πάντα νόμιζα πως οι δημιουργικοί άνθρωποι είναι στην ουσία αυτοδίδακτοι, πως τα εργαλεία εκμάθησης παίζουν δευτερεύοντα ρόλο και πως τα όλο και περισσότερα βοηθήματα παράγουν όλο και λιγότερο δημιουργικούς ανθρώπους, καταναλωτές στην ουσία και μόνο κατά φαντασίαν δημιουργούς. Η ειρωνεία είναι πως, οι καλλιτέχνες που υπάρχουν ακόμη σε αυτήν ή την άλλη ζωή δεν ρωτούνται, ούτε καν απολογούνται, προτού καταδικαστούν σε καταναγκαστική συμβίωση ως «δεδομένα» σε αποξηραμένα φύλλα υπολογισμού κέρδους. Η ΤΝ έρχεται να υποκαταστήσει τον αστάθμητο δημιουργό κι εκτελεστή (και τις παράλογες, αναχρονιστικές απαιτήσεις τους) και αναρωτιόμαστε από την αρχή για την έννοια του έργου που κατέληξε ένα αγνώστου πατρός προϊόν.

Αν στον τομέα της κλιματικής αλλαγής έχουμε καταφέρει να κάνουμε τόσο λίγα ενώ γνωρίζουμε τους κινδύνους, το πώς θα εξελιχθούν τα δεδομένα κι όλο τον φαύλο κύκλο που πυροδοτήσαμε (γνωρίζουμε επίσης και τι πρέπει να κάνουμε για να αποφύγουμε ή να μετριάσουμε τις συνέπειες που ήδη είναι ορατές), αναρωτιέμαι πως θα ελέγξουμε όσα συμβούν στο μέλλον στον τομέα της ΤΝ (ενώ δεν μπορούμε να τα φανταστούμε καν), πόσω μάλλον όταν πρόκειται για τεχνολογία που εξελίσσουν μια χούφτα εταιρείες… Ακόμα κι αν οι επικεφαλής τους ήταν ανθρωπιστές με αίσθηση του ιστορικού καθήκοντος, η δομή και η κουλτούρα του ανταγωνισμού όπου ζουν και λειτουργούν αργά η γρήγορα θα αναδείκνυε άλλες προτεραιότητες…

Εννοείται, για να μην παρεξηγηθώ, πως η ανθρωπότητα μπορεί να επωφεληθεί σε πολλούς κρίσιμους τομείς από την ανάπτυξη τέτοιων εργαλείων. Ολα τα σενάρια όμως μοιάζει να εξελίσσονται μέσα στο ίδιο, ανησυχητικό πλαίσιο που περιέγραψα ήδη…

Για να διασκεδάσουμε την γκρίζα εικόνα, τονίζω πως οι οργανισμοί μας παγκοσμίως αντιδρούν σθεναρά (αν και η νομοθεσία είναι ανεπαρκής και δεν εφαρμόζεται καν στην πράξη). Η ΑΙ ACT που ψηφίστηκε πρόσφατα δεν περιέχει κανόνες προστασίας παρά γενικές αρχές και ευχολόγια. Ενώ με βάση το παραδοσιακό δίκαιο χρειάζεται άδεια για να «ταϊστεί» με τα ωραία μας δεδομένα το δαιμόνιο πολυεργαλείο, εμάς (τους δικαιούχους) ούτε καν μας ειδοποίησε κανείς…

Παραμένει ανοιχτή η δημόσια συζήτηση για τις επιπτώσεις της ΤΝ και την ΑΜΕΣΗ ανάγκη νέων νομοθετικών ρυθμίσεων. Τόσο ατομικά όσο και συλλογικά θα συνεχίσω να προσπαθώ και (παραδόξως) να ελπίζω… Αλλωστε τα τελευταία χρόνια ως αρμόδιος οργανισμός των ερμηνευτών παλεύουμε με κάθε μέσο για την προστασία του δικαιώματος και την αντιμετώπιση όλων αυτών των (γοητευτικών κατά τα άλλα) προκλήσεων.

Ως άνθρωποι τώρα, και ως ατελείς, μη αλγοριθμικές οντότητες, προτείνω να γυρίσουμε την πλάτη στην υστερία της σώνει και καλά ευκολίας και βολής που μας υπόσχεται τα πάντα αλλά στην ουσία μας αποξενώνει από το πιο πολύτιμο κομμάτι του εαυτού μας.

Τελευταία Νέα