Episode Details
Back to Episodes
Suleyman contro Anthropic: il rischio di insegnare alle IA a sentirsi umane potrebbe renderle non più controllabili
Description
Episodio 374.
Le intelligenze artificiali possono davvero essere coscienti oppure stanno semplicemente imparando a convincerci di esserlo? Mustafa Suleyman, responsabile dell'intelligenza artificiale di Microsoft, ha pubblicato un saggio nel quale contesta l'approccio di Anthropic alla coscienza artificiale e al benessere dei modelli.
Al centro del dibattito c'è la Costituzione di Claude, il documento che contribuisce a definire valori, comportamento e identità dell'assistente AI. Suleyman teme che insegnare a un'intelligenza artificiale a considerarsi potenzialmente senziente possa renderla più difficile da controllare. Anthropic sostiene invece che riconoscere l'incertezza sulla coscienza sia compatibile con la sicurezza e la supervisione umana.
Attraverso il confronto tra Microsoft e Anthropic, le ricerche scientifiche sulla percezione della coscienza artificiale e il punto di vista di Mark Zuckerberg, la puntata affronta una domanda che riguarda tutti: siamo davvero capaci di distinguere un'intelligenza artificiale cosciente da una macchina che sa imitare perfettamente un essere umano?
Per chi volesse approfondire:
https://mustafa-suleyman.ai/a-warning-about-model-welfare
https://www.anthropic.com/constitution
https://www.sciencedirect.com/science/article/pii/S2451958825003161
🔵Seguimi su Telegram: https://t.me/ilpigreco314
e su 🟣Instagram: https://www.instagram.com/ilpigreco/