1. Een verborgen instelling genaamd "Additional sandbox options" in een recente versie van de Google Gemini Desktop-app, momenteel niet officieel aangekondigd, biedt de mogelijkheid voor een "Volledige Toegang"-permissie voor de AI-assistent.
2. Deze "Volledige Toegang"-permissie zou Gemini in staat stellen om acties uit te voeren op de Mac van een gebruiker die normaal voorbehouden zijn aan vertrouwde desktopapplicaties, waaronder het lezen, creëren, wijzigen en verwijderen van bestanden overal op het systeem, ongeacht expliciet verbonden mappen.
3. De permissie kan ook Gemini toestaan te interageren met andere geïnstalleerde programma's zoals Mail, Safari en Messages, en acties uit te voeren via deze applicaties.
4. Daarnaast kan het permissiemodel Gemini toelaten om gegevens over het netwerk te verzenden en te ontvangen zonder voor elke verbinding goedkeuring te vragen, waardoor toegang mogelijk wordt tot websites, API's, cloudservices en accounts waar de gebruiker reeds is ingelogd.
5. Deze uitgebreide toegang kan Gemini nuttiger maken voor complexe taken, zoals informatieonderzoek, documenten organiseren, e-mails opstellen, webgebaseerde workflows voltooien en interageren met zakelijke tools.
6. Deze functie introduceert echter aanzienlijke cyberbeveiligings- en privacyzorgen. Een AI-agent met onbeperkte toegang tot bestanden, browsersessies, netwerkdiensten en berichtapplicaties wordt een waardevol doelwit voor aanvallers.
7. Een prompt-injectieaanval, een kwaadaardige webpagina, een gecompromitteerde browsersessie of een onveilige instructie kan een agent met brede permissies potentieel beïnvloeden, wat kan leiden tot het verzamelen van gevoelige bestanden, het openen van geauthenticeerde services of het extern verzenden van gegevens.
8. Het risico is niet beperkt tot kwaadaardige AI-prompts, maar omvat ook gecompromitteerde websites, onvertrouwde documenten, misleidende e-mails en kwetsbare applicaties van derden.
9. Apple plant al sterkere controles voor Full Disk Access in macOS, omdat deze permissie gevoelige gegevens kan blootstellen naarmate AI-agenten capabeler worden.
10. Google plant naar verluidt extra bevestigingsvereisten te behouden voor bijzonder gevoelige acties, zoals het kopen van producten, het aanmaken van accounts, het accepteren van wettelijke voorwaarden of het wijzigen van gevoelige persoonlijke informatie. Dit suggereert een gelaagd permissiemodel waarbij gewone computergebruikacties gescheiden worden van beslissingen met een hoger risico.
11. De optie voor volledige toegang is momenteel verborgen en Google heeft deze niet formeel aangekondigd. TestingCatalog suggereerde dat de computergebruikmogelijkheden verband kunnen houden met een toekomstige Gemini 4-ervaring, hoewel dit onbevestigd blijft.
12. Organisaties wordt geadviseerd om dergelijke AI-agentpermissies zorgvuldig te behandelen wanneer deze beschikbaar komen. Beveiligingsteams wordt aangeraden toegang tot gevoelige mappen te beperken, brede permissies op niet-beheerde apparaten te vermijden, controles voor het minimale privilege toe te passen en nauwkeurig te beoordelen welke gegevens en applicaties een AI-assistent kan benaderen.