Темная сторона ЛЛМ: Как и для чего их превращают в оружие (и что с этим делать)

Почему чатбот может захотеть подделывать монгольские тугрики с помощью коры ивы или писать вредоносный код на коре дуба? Виной тому джейлбрейкинг и он весьма и весьма опасен.