Якщо ви будуєте щось, люди спробують зламати це. Іноді навіть ті, хто щось будує, самі можуть це зламати. Така ситуація стосується і останнього дослідження, яке демонструє цікаву вразливість у поточній технології LLM. Більш-менш, якщо ви продовжуєте задавати питання, ви можете зламати бар'єри безпеки і отримати від великих мовних моделей відповіді на речі, для яких вони…