WP: удар США по иранской школе мог быть ошибкой разведки или злоупотреблением ИИ
Трагический удар по школе для девочек в иранском городе Минаб мог стать результатом просчета разведки или сбоя в алгоритмах искусственного интеллекта, сообщает американская газета The Washington Post со ссылкой на источники. Целью была расположенная неподалеку военная база.
В результате под бомбы попали дети. Погибли 175 человек, в основном ученицы учебного учреждения.
Журналисты выяснили, что и израильские, и американские военные используют систему Maven от Palantir, частично основанную на технологии Claude компании Anthropic. Учитывая скорость и масштаб операции «Эпическая ярость», возможно, цели, отобранные ИИ, не были тщательно проверены людьми.
Некоторое время назад Пентагон требовал от Anthropic предоставить неограниченный доступ к Claude, но компания отказалась, заявив, что полагаться на ИИ в военных действиях пока рано, и такие системы нуждаются в контроле человека. Расследование на данный момент продолжается.
