Das Wichtigste
- Anthropic führte einen Testlauf durch, bei dem Phishing-Mails an echte Menschen verschickt wurden
- Das Unternehmen nutzte die eigene KI-Technologie für den Test
- Der Test sollte die Sicherheitsfähigkeiten der KI demonstrieren
Einordnung
Der Vorfall wirft Fragen zur Verantwortung von KI-Unternehmen bei Sicherheitstests auf. Solche Experimente mit echten Nutzern sind umstritten. Die Ethik von Tests, die potenziell schädliche Techniken involveieren, wird nun diskutiert.