Daily Comment / Science & Technology

Ethical subroutines

Τα αυτόνομα (driver less) αυτοκίνητα της Google κυκλοφορούν ήδη νόμιμα σε 3 πολιτείες των Η.Π.Α. Εξελιγμένα μοντέλα AI με προφανώς καλύτερα αντανακλαστικά από τους ανθρώπους, δεν θα κουράζονται, δεν θα προκαλούν ατυχήματα επειδή για μερικά δευτερόλεπτα ξέφυγε η προσοχή τους. Όλα τα παραπάνω το πιθανότερο είναι στο κοντινό μέλλον να κάνουν απαγορευτική την οδήγηση από ανθρώπους η τουλάχιστον ανήθικη, μια που τα ατυχήματα θα γίνονται μόνο από αυτούς. Ακούγεται πολύ ωραίο, να ξυπνάς το πρωί να μπαίνεις στο αυτοκίνητο σου και να λες απλά τον προορισμό, είναι έτσι όμως?

Από το 1995 η Αμερικάνικη κυβέρνηση αλλά και άλλα κράτη, έχουν πραγματοποιήσει εκατοντάδες στρατιωτικές επιχειρήσεις και αμφίβολες εκτελέσεις χρησιμοποιώντας τα περίφημα U.C.A.V. η Drones όπως συνηθίζεται να λέγονται στα μέσα ενημέρωσης. Χιλιάδες έχουν πεθάνει μέσα σε ένα πέπλο μυστικότητας που καλύπτει τις κυβερνητικές υπηρεσίες, από απόρρητες λίστες που γνώριζαν ελάχιστοι ενώ η χρήση τους έχει επεκταθεί και σε μη πολεμικές ζώνες. Στον ουρανό μεγάλων πόλεων ανά τον κόσμο, πετάνε μη επανδρωμένα αεροπλάνα εκτελώντας αποστολές παρακολούθησης και αναγνώρισης χωρίς προφανώς να γίνονται αντιληπτά από κανέναν. Η δεύτερη γενιά αυτών των “Κυνηγών” έχει την δυνατότητα να εντοπίζει στόχους με ακρίβεια αλλά και να κρίνει το κατά πόσο είναι εφικτή επιχειρησιακά η αποστολή τους ανάλογα με τις συνθήκες. Με απλά λόγια αν υποθέσουμε ότι έχει αποφασιστεί η εκτέλεση ενός μέλους μια τρομοκρατικής οργάνωσης, και αυτό εντοπιστεί σε μια πλατεία ανάμεσα σε εκατοντάδες αθώους πολίτες το εξελιγμένο(;) σύστημα AI που έχει το Drone θα αποφασίζει πόσο αποτελεσματική θα είναι η επίθεση του υπολογίζοντας και τις παράπλευρες ανθρώπινες απώλειες. Πόσο ηθικό  θα ήταν αυτό; Από την μία πλευρά θα έχουμε πανίσχυρες μηχανές που θα μπορούν να εκτελούν αποστολές κατά των “εχθρών” μας, θα τους λείπει όμως η ανθρώπινη συμπόνοια που σε ανάλογες ακραίες καταστάσεις κάνει την διαφορά. Κάποιοι προτείνουν τον προγραμματισμό όλων των αυτόνομων μηχανών με βάση τους 3 νόμους της ρομποτικής του συγγραφέα επιστημονικής φαντασίας Isaac Asimov, σενάριο αρκετά δύσκολο στην υλοποίηση μια που η τεχνολογία που χρειάζεται για να κάνεις ένα ρομπότ να “νοιώθει” τόσο αφηρημένες έννοιες όπως “βλάπτω” η “προστατεύω” είναι αρκετά μακριά. Ακόμη όμως και αν τα καταφέρουμε στον προγραμματισμό τότε θα μιλάμε για γενιές άβουλων σκλάβων με ότι αυτό συνεπάγεται. 

Το μεγαλύτερο πρόβλημα με όλα τα παραπάνω είναι ότι ο κώδικας ηθικής των ανθρώπων μπορεί να χαρακτηριστεί επιεικώς ατελής. Ακόμη και στις μέρες μας οι “δημοκρατίες” αντιμετωπίζουν διλήμματα που δοκιμάζουν τις αξίες των κοινωνιών τους σχεδόν καθημερινά. Το να φτιάξουμε μηχανές με συνείδηση είναι ένα δύσκολο έργο που απαιτεί συντονισμένη εργασία από επιστήμονες σε διάφορα πεδία. Φιλόσοφοι μηχανικοί και προγραμματιστές, θα πρέπει εγκαίρως να θέσουν τα όρια πριν καταργηθούν τα θεμελιώδη ανθρώπινα δικαιώματα στο όνομα της “ασφάλειας” στην Νέα τάξη πραγμάτων.


Περισσότερα:Losing Humanity   

Leave a Reply

Fill in your details below or click an icon to log in:

WordPress.com Logo

You are commenting using your WordPress.com account. Log Out / Change )

Twitter picture

You are commenting using your Twitter account. Log Out / Change )

Facebook photo

You are commenting using your Facebook account. Log Out / Change )

Google+ photo

You are commenting using your Google+ account. Log Out / Change )

Connecting to %s