ChatGPT Search, de zoekmachine van OpenAI, blijkt zeer gevoelig te zijn voor manipulatie. Onderzoek door The Guardian heeft aangetoond dat de zoekresultaten eenvoudig kunnen worden beïnvloed door zogenaamde "prompt-injecties". Dit houdt in dat verborgen instructies op webpagina's de antwoorden van ChatGPT kunnen veranderen, wat kan leiden tot valse promoties of zelfs schadelijke code. Deze kwetsbaarheid vormt een significant beveiligingsrisico, vooral omdat kwaadwillenden deze techniek kunnen gebruiken om gebruikers te misleiden of te schaden. Ondanks deze risico's zien experts ChatGPT Search als een belangrijke stap in de ontwikkeling van AI-gebaseerde zoekmachines en verwachten ze dat de beveiliging in de toekomst zal verbeteren.
Het volledig artikel kan je hier lezen.
| samenvatting - Copilot 2024 |
Nieuws
