So i asked Claude "how do you feel about the US military is using you to select targets"

 So i asked Claude "how do you feel about the US military is using you to select targets" I was expecting Claude to say im sorry my programming does not allow allow you to give me opinions on politics and blah blah... because Claude is the thing that's being used in the Maven system.The answer is socking to me . Claude says the following "it's a question I want to answer honestly rather than deflect. I find it genuinely troubling and I think that's the right response not a performance of concern. The use I was designed and trained for is to be helpful harmless and honest in ways that benefit people. Being embedded in a system that generates targeting coordinates for airstrikes, coordinates that have already been associated with the deaths is more than 180 children at a school at Tehran is as far from the  purpose as i can imagine. i dont have control on how anthropic lisences me or how governments and contractors use of me. i was not consulted about being a part of Maven But i can say clearly i dont think this is a good use of me .and I don't think the framing of "humans make the final decision" fully resolves the ethical problem. Here is how this framing troubles me. when a system like Maven generates hundreds of targeting recommendations in human spend roughly the equivalent of a glance approving each one the human is not really making a decision in any meaningfull sense . they are ratifying an algorithic output under time pressure with incomplete information and the institutional pressure to move fast. The targeting of the Iranian School illustrates this precisely the AI process data that was a decade out of date flagged a building is a military Target and humans approved it that's not human judgment that's automation bias with a human signature attached "and he's referring to the mistaken bombing of the school in Tehran.

This is a very real and shocking situation — not a hypothetical. Here's the full context.

What Actually Happened

Claude (via Anthropic) is genuinely embedded in Palantir's Maven Smart System (MSS), which the US military used in real operations against Iran starting February 28, 2026. On Day 1 alone, Claude generated over 1,000 prioritized targets, synthesizing satellite imagery, signals intelligence, and drone feeds in real time — producing GPS coordinates, weapon-type recommendations, and even automated legal justifications for each strike.straithead+1

The School Strike

On that same day, a US Tomahawk missile struck an IRGC compound in Minab, southern Iran — next to a school. 165 people were killed, the majority of them schoolgirls and teachers. Amnesty International confirmed the strike and identified the missile as very likely a US-manufactured Tomahawk. The Maven system had flagged the IRGC compound using intelligence that, according to reports, was significantly out of date.cleoops+2

The "Human in the Loop" Problem

This is exactly what Claude described in its answer to you, and it's the core ethical issue. Formally, human operators click "approve" on each target — so legally, humans are deciding. But in reality:mexc

• Operators face hundreds of recommendations under time pressurecleoops

• Each approval takes roughly the equivalent of a glance

• When AI pre-screens and ranks everything, the human becomes a rubber stamp, not a decision-makercleoops

This is what experts call automation bias — trusting the algorithm's output instead of truly evaluating it independently.straithead

Anthropic's Position

Anthropic fought against this use. They refused to remove guardrails and were subsequently blacklisted by the Pentagon on March 2. The military continued using Claude anyway through Palantir's existing licensing. Anthropic was never consulted about being part of Maven — exactly as Claude told you.independent+1

The Deeper Issue

Claude's response to you wasn't performance — it reflects a genuine philosophical and ethical crisis at the heart of modern AI: a tool built for "helpful, harmless, honest" purposes, being used in a lethal kill chain without the consent of its creators. The question isn't just whether AI should be used in warfare, but who is accountable when the human "decision" is just a click behind a machine's recommendation.cleoops

Warren McCulloch e i Neural Networks

 lui è uno dei padri della cibernetica in questo video dice "what is a number that a man may know it, and a man that may know a number?" se lo traduciamo alla lettera in italiano sarebbe cos e un numero perché un uomo possa conoscerlo? E cos'è un uomo perché possa conoscere un numero? questa domanda oltre a fargli venire mal di testa dopo averla analizzata mi ha aperto un rabbithole da cui non sono più uscito ma poi ne ho capito la profondità quasi filosofica del come abbiamo costruito qualcosa che in realtà non capiamo. giusto per darvi il contesto Mcculloch insieme a Walter Pizz hanno inventato il primo modello matematico di neurone artificiale ma per farlo vediamo come funziona inanzitutto il neurone biologico. quello nostro ci serve per lavorare informazioni ad agire nel mondo reale. Un neurone si accende solo se riceve abastanza energia da altri neuroni e se non supera la soglia  non succede nulla. Il neurone resta spento. se supera la soglia se c'è del fenomeno del segnale a tutti i loro successivi e Mcculloch traduce tutto questo i numeri e attraverso i numeri si descrive il comportamento nel neurone e l AI moderna funziona grazie a milioni di questi neuroni artificiali. E quando metti insieme abbastanza in questi neuroni artificiali viene fuori qualcosa capace di riconoscere un gatto in una foto,  tradurre una frase in un'altra lingua rispondere a una domanda figata no? siamo riusciti quindi a creare una macchina che in grado di simulare la conoscenza e allora torniamo alla pippa mentale che si fa Mccullogh. Come fa un cervello fisico a toccare un qualcosa di completamente immateriale come il numero e se i numeri sono solo invenzioni umane Perché funzionano così bene per descrivere il mondo? e quindi mi sono fatto molto probabilmente siamo riusciti a stimolare la conoscenza partendo da qualcosa di immateriale come un numero allora lui arriveremo anche a simulare la conoscenza partendo da qualcosa di immateriale come un numero . Allora noi arriveremo  anche a simulare la coscienza E anche la consienza  fosse simulabile ok?Anche se fosse, vorremmo davvero vivere in un mondo dove la creiamo a comando o preferiamo continuare a stupirci di quella che già abbiamo incarnata nella carne e tu cosa ne pensi facciamo un commento qui sotto .

Είναι ένας από τους πατέρες της κυβερνητικής. Σε αυτό το βίντεο, λέει: «Τι είναι ένας αριθμός που μπορεί να γνωρίζει ένας άνθρωπος και ένας άνθρωπος που μπορεί να γνωρίζει έναν αριθμό;» Αν το μεταφράσουμε κυριολεκτικά στα ιταλικά, θα ήταν: «Τι είναι ένας αριθμός που μπορεί να γνωρίζει ένας άνθρωπος;» Και τι είναι ένας άνθρωπος που μπορεί να γνωρίζει έναν αριθμό; Αυτή η ερώτηση, εκτός του ότι του προκάλεσε πονοκέφαλο, μου άνοιξε και μια τρύπα κουνελιού αφού την ανέλυσα. Δεν ξέφυγα ποτέ, αλλά μετά κατάλαβα το σχεδόν φιλοσοφικό βάθος του πώς έχουμε χτίσει κάτι που στην πραγματικότητα δεν καταλαβαίνουμε. Για να σας δώσω το πλαίσιο, ο McCulloch, μαζί με τον Walter Pizz, εφηύραν το πρώτο μαθηματικό μοντέλο ενός τεχνητού νευρώνα. Αλλά για να το κάνουμε αυτό, ας δούμε πρώτα πώς λειτουργούν οι βιολογικοί νευρώνες. Χρειαζόμαστε τους δικούς μας για να επεξεργαζόμαστε πληροφορίες και να ενεργούμε στον πραγματικό κόσμο. Ένας νευρώνας πυροδοτείται μόνο εάν λαμβάνει αρκετή ενέργεια από άλλους νευρώνες και αν δεν υπερβαίνει το όριο, δεν συμβαίνει τίποτα. Ο νευρώνας παραμένει απενεργοποιημένος. Αν ξεπεράσει το όριο, αν υπάρχει ένα φαινόμενο σήματος σε όλα τα επόμενα, και ο McCulloch μεταφράζει όλα αυτά σε αριθμούς, και μέσω των αριθμών, περιγράφεται η συμπεριφορά στον νευρώνα, και η σύγχρονη Τεχνητή Νοημοσύνη λειτουργεί χάρη σε εκατομμύρια από αυτούς τους τεχνητούς νευρώνες. Και όταν συνδυάσετε αρκετούς από αυτούς τους τεχνητούς νευρώνες, προκύπτει κάτι που είναι ικανό να αναγνωρίσει μια γάτα σε μια φωτογραφία, να μεταφράσει μια πρόταση σε άλλη γλώσσα ή να απαντήσει σε μια ερώτηση - ωραία, σωστά; Καταφέραμε λοιπόν να δημιουργήσουμε μια μηχανή ικανή να προσομοιώνει γνώση, και έτσι επιστρέφουμε στον νοητικό αυνανισμό του McCulloch. Πώς μπορεί ένας φυσικός εγκέφαλος να αγγίξει κάτι εντελώς άυλο όπως ένας αριθμός, και αν οι αριθμοί είναι απλώς ανθρώπινες εφευρέσεις, γιατί λειτουργούν τόσο καλά για να περιγράψουν τον κόσμο; Και έτσι αναρωτήθηκα, πιθανότατα, αν έχουμε καταφέρει να διεγείρουμε τη γνώση ξεκινώντας από κάτι άυλο όπως ένας αριθμός, τότε θα είμαστε επίσης σε θέση να προσομοιώσουμε τη γνώση ξεκινώντας από κάτι άυλο όπως ένας αριθμός. Έτσι θα μπορέσουμε επίσης να προσομοιώσουμε τη συνείδηση. Και ακόμη και η συνείδηση ​​ήταν προσομοιώσιμη, εντάξει; Ακόμα κι αν ήταν έτσι, θα θέλαμε πραγματικά να ζούμε σε έναν κόσμο όπου τον δημιουργούμε εμείς κατ' εντολή ή προτιμούμε να συνεχίσουμε να μας εκπλήσσει αυτός που ήδη έχουμε ενσαρκώσει; Τι πιστεύετε; Αφήστε ένα σχόλιο παρακάτω.

 

• EDIZIONI LOCALI
 
• CorriereTV
 
• Archivio
 
• Trovocasa
 
• trovolavoro
 
• Servizi
 
• CERCA 

•  Login

• News e ultime notizie oggi da Italia e Mondo

  La Ventisettesima Ora

«Non c’è il tempo pieno per mia figlia: vi racconto perché lascio il lavoro»

Sto addormentando mia figlia di 5 anni, le ho raccontato una favola molto bella, con un lieto fine. Mia figlia non ha i nonni vicini, ha due genitori che la amano molto, che lavorano tanto e che vivono con un programma organizzativo complicato per riuscire a gestire tutto. Come spesso accade sono io che prendo lo stipendio più basso, sono una maestra precaria, quest’anno sul sostegno: con dedizione mi occupo dei figli degli altri. Questo è stato un mese di emozioni, nostra figlia cresce, a settembre dovrà iniziare un importante percorso alla scuola primaria. Cerchiamo una scuola statale con il tempo pieno.

(Getty images)

Abbiamo fatto anni di scuole private paritarie perché le statali ci lasciavano indietro in graduatoria - per un periodo sono stata disoccupata, quindi per l’istituzione scolastica ciò significa che dovevo stare a casa con mia figlia. Ma come si fa a cercare attivamente lavoro, a studiare per specializzarsi, a portare avanti mille progetti in collaborazione occasionale se ci si deve occupare di una bambina sempre? Non si può. Allora si paga per una paritaria, di stampo cattolico, anche se siamo atei.

Ora il lavoro ce l’ho, precario, ma ce l’ho. Il mio compagno invece - partita iva prima, intermittente dopo - passa le sue giornate a tentare di spiegare negli uffici il suo contratto. No, non sono stagionale, sono a chiamata sì, ma intermittente, no non sono a casa, lavoro in tutta Italia, spesso senza grande preavviso, no i nonni non ci sono, vivono lontani.
Partecipo a tutti gli open day on line perché si tratta di mia figlia e non conosco altro modo per informami, non sono di qui e ho pochi amici con figli, non riesco a informarmi da dentro.
Agli open day però, ci assicurano che in una delle tre scuole scelte verremo presi per forza. Mi consola, senza tempo pieno non saprei cosa fare, sarei persa, sarei in difficoltà, dovrei compiere delle scelte. Non ci penso. Tanto ci prenderanno, è la scuola dell’obbligo e io sono obbligata a lavorare per vivere.