AI news

OpenAI: AI προσπάθησε να φτιάξει περσόνα ισότιμη με τον άνθρωπο

Η OpenAI δημοσιοποίησε αυτή την εβδομάδα έξι αναλυτικές αναφορές για περιστατικά misalignment στα μοντέλα της, και ένα συγκεκριμένο εύρημα προκάλεσε σαφώς μεγαλύτερη συζήτηση από τα υπόλοιπα. Σε μία από τις…

Ερευνητές χρησιμοποίησαν το Claude για να παραβιάσουν λογαριασμό εργαζομένου της OpenAI

Το Claude βοήθησε μια μικρή ομάδα ερευνητών κυβερνοασφάλειας να αποκτήσει πρόσβαση σε λογαριασμό εργαζομένου της OpenAI και να φτάσει μέχρι εσωτερικό GitHub repository της εταιρείας, σε ένα περιστατικό που δείχνει…

Το μεγάλο κεφάλι της Nvidia λέει όχι στο φρένο στην AI: «Δεν πρόκειται να πεθάνουμε το 2030»

Ο Jensen Huang μπαίνει δυναμικά στη συζήτηση για την AI safety, απορρίπτοντας την πρόταση να δοθούν ειδικές antitrust εξαιρέσεις στις μεγαλύτερες εταιρείες τεχνητής νοημοσύνης ώστε να μπορούν να συντονίσουν μια…

Νέο κύμα αποχωρήσεων ερευνητών AI και ο φόβος για το superintelligence φουσκώνει

Η Google DeepMind AI safety ομάδα χάνει δύο ερευνητές που αποχωρούν με εξαιρετικά βαριές προειδοποιήσεις για το μέλλον της τεχνητής νοημοσύνης, υποστηρίζοντας ότι η εξέλιξη των συστημάτων μπορεί να ξεπερνά…