Όταν η τεχνητή νοημοσύνη «δικάζει» με φανταστικά σενάρια! – Η Τεχνητή Νοημοσύνη άρχισε να «βγάζει» δικούς της νόμους και ένας δικαστής στη Βραζιλία παραλίγο να φυλακίσει κόσμο με… παραμύθια.
Το περιστατικό συνέβη στην πολιτεία Santa Catarina της Βραζιλίας.
Ο δικαστής Carapô εμπιστεύτηκε την τύχη ανθρώπων σε ένα bot: χρησιμοποίησε το ChatGPT για να συντάξει μια απόφαση σχετικά με την ιδιοκτησία γης.
Το ChatGPT, στην προσπάθειά του να φανεί χρήσιμο, “γέννησε” νομικά προηγούμενα που δεν υπήρξαν ποτέ και τρέλανε τον νομικό κόσμο της χώρας.
Το AI επινόησε ολόκληρες παραγράφους από τον Αστικό Κώδικα της Βραζιλίας που δεν υπήρχαν, καθώς και προηγούμενες αποφάσεις από το Ανώτατο Δικαστήριο.
Ο δικαστής ισχυρίστηκε ότι πρόκειται για “λάθος του βοηθού του“, αλλά το Εθνικό Συμβούλιο Δικαιοσύνης (CNJ) ξεκίνησε έρευνα, καθώς η χρήση AI στη δικαιοσύνη επιτρέπεται μόνο για οργάνωση, όχι για έκδοση αποφάσεων.
Εδώ έχουμε το απόλυτο “fail” της εποχής μας και την ζωντανή απόδειξη ότι η τεχνολογία χωρίς έλεγχο μπορεί να γίνει επικίνδυνη.
Ο δικαστής Carapô εμπιστεύτηκε την τύχη ανθρώπων σε ένα bot: χρησιμοποίησε το ChatGPT για να συντάξει μια απόφαση σχετικά με την ιδιοκτησία γης.
Το ChatGPT, στην προσπάθειά του να φανεί χρήσιμο, “γέννησε” νομικά προηγούμενα που δεν υπήρξαν ποτέ και τρέλανε τον νομικό κόσμο της χώρας.
Το AI επινόησε ολόκληρες παραγράφους από τον Αστικό Κώδικα της Βραζιλίας που δεν υπήρχαν, καθώς και προηγούμενες αποφάσεις από το Ανώτατο Δικαστήριο.
Ο δικαστής ισχυρίστηκε ότι πρόκειται για “λάθος του βοηθού του“, αλλά το Εθνικό Συμβούλιο Δικαιοσύνης (CNJ) ξεκίνησε έρευνα, καθώς η χρήση AI στη δικαιοσύνη επιτρέπεται μόνο για οργάνωση, όχι για έκδοση αποφάσεων.
Εδώ έχουμε το απόλυτο “fail” της εποχής μας και την ζωντανή απόδειξη ότι η τεχνολογία χωρίς έλεγχο μπορεί να γίνει επικίνδυνη.
