De gestage toename van digitale oplichting en fraude Cybercriminaliteit op sociale media en berichtenapps heeft grote technologiebedrijven gedwongen hun beveiligingsmaatregelen aanzienlijk te verbeteren. Het komt steeds vaker voor dat cybercriminelen proberen accounts en bankgegevens te stelen of zich voor te doen als bekende merken via berichten, advertenties en contacten die op het eerste gezicht onschuldig lijken.
In deze context meta versterkt zijn veiligheidsstrategie met een nieuwe generatie AI voor fraudebestrijding toegepast op Facebook, WhatsApp en Messenger.De aanpak is duidelijk: waarschuw de gebruiker voordat hij in de val trapt, minimaliseer de blootstelling aan schadelijke inhoud en maak het oplichters die op hun platforms actief zijn zo moeilijk mogelijk.
Een AI-systeem tegen fraude om oplichting op Meta een stap voor te blijven.
Meta introduceert een reeks functies die een combinatie vormen van... kunstmatige intelligentie op het apparaat zelf en analyse op externe serversDeze architectuur maakt het enerzijds mogelijk om end-to-end-encryptie te respecteren in diensten zoals WhatsApp en Messenger, en anderzijds een extra laag geavanceerde detectie te bieden wanneer de gebruiker besluit om verdachte inhoud ter beoordeling te versturen.
De tools zijn gebaseerd op modellen die in staat zijn tot analyse. tekst, afbeeldingen, links en gedragspatronenHet doel is om alles te identificeren, van frauduleuze advertenties die zonder toestemming de gezichten van beroemdheden gebruiken tot berichten van zogenaamde "technische ondersteuning" die proberen verificatiecodes te verkrijgen, en vriendschapsverzoeken van nepaccounts die het vertrouwen van het slachtoffer proberen te winnen.
Volgens gegevens die het bedrijf heeft gedeeld, is het probleem niet onbeduidend: Meta beweert te beschikken over Miljoenen accounts en advertenties die gelieerd waren aan georganiseerde fraudenetwerken werden verstoord. Op Facebook, Instagram en WhatsApp worden ze in sommige gevallen gekoppeld aan echte oplichtingscentra die verspreid zijn over meerdere landen.
Dit technologische offensief steunt ook op menselijke beoordelingsteams die zij aan zij met AI werken, zodat de modellen worden getraind met echte voorbeelden en de foutmarge bij de classificatie van dubieuze inhoud wordt verkleind.
WhatsApp: firewall tegen accountkaping en verdachte groepen
Bij WhatsAppMeta's AI voor fraudebestrijding richt zich op een aantal veelvoorkomende aanvalsvectoren: Accountkaping via apparaatkoppelingTechnische ondersteuningsfraude en oplichting door onbekende groepen.
Een van de belangrijkste nieuwe functies is een systeem van Er wordt een melding gegeven wanneer iemand probeert het account te koppelen aan een onbekend apparaat.Als een verdacht verzoek wordt gedetecteerd, toont de app informatie zoals de locatie van waaruit de poging is gedaan, samen met een expliciete waarschuwing dat het om oplichting kan gaan. Dit stelt de gebruiker in staat het proces te stoppen voordat een derde partij volledige toegang krijgt tot zijn of haar gesprekken.
AI grijpt ook in bij situaties van Scherm delen tijdens videogesprekken met onbekende contactenWanneer dit risicopatroon wordt gedetecteerd, geeft het systeem automatisch een waarschuwing, aangezien veel zogenaamde "technische ondersteuningsfraude" erop neerkomt dat gebruikers live meekijken op het scherm om bankgegevens, eenmalige codes of andere gevoelige informatie te bemachtigen.
Bovendien laten groepen waar gebruikers zich bij aansluiten zonder veel over de leden te weten nu een preventief veiligheidspaneelDit paneel biedt details over de groep, tips voor het herkennen van fraudepogingen en de mogelijkheid om te vertrekken zonder interactie, waarbij meldingen worden gedempt totdat de gebruiker bevestigt dat hij/zij wil blijven.
Meta is ook aan het testen. Contextuele meldingen bij het starten van chats met nummers die niet in het adresboek staan.Als het systeem typische tekenen van phishing, valse investeringen of onduidelijke geldverzoeken herkent, adviseert het om uiterst voorzichtig te zijn en biedt het de mogelijkheid om de betreffende personen met een paar tikken te blokkeren of te rapporteren.
Facebook: Onderzoek naar vriendschapsverzoeken en nep-"support"-pagina's
En FacebookAI voor fraudebestrijding heeft twee belangrijke toepassingsgebieden: verdachte vriendschapsverzoeken en websites die zich voordoen als klantenserviceafdelingen of gevestigde merken.
Bij ontvangst van een vriendschapsverzoek kan het platform een waarschuwing weergeven als er risicofactoren worden gedetecteerd: accounts met zeer weinig gemeenschappelijke vrienden, recent aangemaakte profielen, een geografische herkomst die niet overeenkomt met het netwerk van de gebruiker, of gedrag dat overeenkomt met patronen die geassocieerd worden met botnetwerken. Op deze manier kan de gebruiker beter inschatten of het verzoek moet worden geaccepteerd, genegeerd of geblokkeerd. voordat u de deur openzet voor een potentiële fraudeur.
Een ander relevant aandachtspunt is de nep-supportpagina's en -accounts die gebruikers proberen op te lichten die hulp zoeken bij het herstellen van een account of het oplossen van een probleem. Meta beweert actie te hebben ondernomen tegen tienduizenden van deze sites, die doorgaans inloggegevens, identiteitsdocumenten of betalingen vroegen om zogenaamde herstelprocessen te "versnellen".
Het bedrijf versterkt tevens zijn mechanismen voor Verificatie van adverteerders en detectie van frauduleuze advertentiesDit omvat onder meer degenen die zonder toestemming afbeeldingen van beroemdheden, zakenmensen of publieke figuren gebruiken. De AI vergelijkt gezichten en identificeert terugkerende manipulaties die worden gebruikt om nep-investeringen, niet-bestaande promoties of producten die nooit aankomen te legitimeren.
Dit punt is met name gevoelig voor bedrijven en contentmakers in Spanje en de rest van Europa, waar advertenties die gebruikmaken van het gebruiken van het imago van ondernemers of bekende lokale figuren om slachtoffers te lokkenDit leidt tot verwarring en reputatieschade die moeilijk te herstellen is.
Messenger: Gebruikersinstelbare detectie van oplichting
De berichtenapp die gekoppeld is aan Facebook, Messenger, bevat een specifieke functie genaamd “Oplichtingsdetectie”Deze optie, toegankelijk via de privacy- en beveiligingsinstellingen, analyseert gesprekken die door onbekende contacten zijn gestart, gedetailleerder. Eenmaal geactiveerd, biedt deze functie een meer diepgaande analyse van gesprekken.
AI richt zich op kenmerkende patronen van nep-aanbiedingenDit omvat onder andere: aanbiedingen voor thuiswerk waarbij vooruitbetaling wordt geëist, investeringen met gegarandeerd rendement, dringende berichten waarin om geld wordt gevraagd, of pogingen om zich voor te doen als medewerkers van de klantenservice van bekende bedrijven. Als er iets ongebruikelijks wordt gedetecteerd, wordt een waarschuwing weergegeven die het type risico aangeeft en wordt voorgesteld de afzender te blokkeren of te rapporteren.
Indien de gebruiker hier uitdrukkelijk toestemming voor geeft, kunnen de gemarkeerde berichten in individuele gevallen naar de betreffende gebruiker worden verzonden. Meta-servers voor diepgaandere AI-analyseDeze stap verbreekt tijdelijk de end-to-end-versleuteling, maar alleen voor die specifieke inhoud. Iedereen moet deze beslissing zelf afwegen op basis van zijn of haar risicobereidheid en privacyoverwegingen.
Tegelijkertijd heeft Messenger zijn systeem verbeterd. linkbeveiligingDe functie Veilig browsen, die URL's al op het apparaat zelf analyseerde, vertrouwt nu op een extra laag genaamd geavanceerde bescherming, die is gekoppeld aan voortdurend bijgewerkte lijsten van gevaarlijke sites. Het ontwerp is erop gericht de toegang tot phishingpagina's of malware-downloads te blokkeren zonder de identiteit van de gebruiker of de volledige browsegeschiedenis prijs te geven.
Voor support-, verkoop- of klantenserviceteams die Messenger als hun vaste communicatiekanaal gebruiken, betekenen deze verbeteringen zowel een Een extra bescherming tegen oplichting gericht op uw eigen merk. als een enigszins veiligere omgeving voor de gebruikers waarmee ze dagelijks in contact komen.
De kunstmatige intelligentie onder de motorkap
De nieuwe beveiligingsfuncties van Meta zijn gebaseerd op een hybride architectuur die twee complementaire benaderingen combineert. De eerste is de analyse op het apparaatHet werkt direct op de mobiele telefoon of computer van de gebruiker en respecteert end-to-end-encryptie, omdat het geen inhoud naar externe servers hoeft te verzenden om risicopatronen te detecteren.
Deze lokale analyse richt zich op signalen zoals het feit dat berichten ontvangen van nummers die niet in het bestand staanDit omvat onder andere pogingen om het scherm te delen met vreemden, plotselinge veranderingen in accountgedrag of het verschijnen van links die overeenkomen met eerdere fraudemeldingen. Door de beveiliging op het apparaat zelf uit te voeren, wordt de hoeveelheid extern verzonden data verminderd, wat een directe eerste verdedigingslinie vormt.
De tweede laag wordt geactiveerd wanneer de gebruiker ervoor kiest om Verstuur content ter beoordeling met behulp van AI in de cloud.In dit geval worden de gemarkeerde berichten of items verwerkt door de systemen van Meta, die complexere modellen gebruiken om te beoordelen of wat er gebeurt overeenkomt met een bekend type oplichting. Als de analyse concludeert dat er een risico is, toont het platform uitleg over de mogelijke oplichting en adviseert het specifieke acties.
Het bedrijf benadrukt dat er naast AI ook andere aspecten zijn. Menselijke moderatieteams die dagelijks miljoenen stukken content beoordelen.Het menselijke element maakt het onder andere mogelijk om modellen te verfijnen, de meest delicate gevallen af te handelen en grootschalige, gecoördineerde campagnes te ontmantelen die verder gaan dan simpele, geïsoleerde boodschappen.
Dit hele mechanisme wordt aangevuld met overeenkomsten met veiligheidsdiensten en andere actoren in de technologiesector, om inlichtingen te delen over kwaadaardige domeinen, netwerken van nepaccounts en nieuwe tactieken die door criminele organisaties worden gebruikt.
Belangrijkste soorten oplichting die Meta's AI probeert te stoppen
Metaplatformen zijn een broedplaats voor een breed scala aan digitale fraudeDe nieuwe tools zijn ontworpen om onder andere de volgende veelvoorkomende oplichtingspraktijken te detecteren en te stoppen die gericht zijn op gebruikers in Spanje en Europa:
- Oplichting met nep-technische ondersteuning: Personen die zich voordoen als medewerkers van de klantenservice van een bank, operators of zelfs Meta zelf om verificatiecodes, wachtwoorden of toegang op afstand tot het apparaat te verkrijgen.
- Fraude met schermdeling: Videogesprekken waarin de oplichter het slachtoffer overhaalt om zijn of haar scherm te laten zien om bankgegevens, sms'jes met eenmalige codes of inloggegevens voor diensten zoals internetbankieren of betaalplatformen te bemachtigen.
- Niet-bestaande vacatures en beurzen: Advertenties of privéberichten die gemakkelijke of goedbetaalde banen beloven in ruil voor een aanbetaling voor "behandelingen" of voor het verstrekken van gevoelige persoonlijke informatie.
- Beleggingsconstructies en cryptovaluta: Campagnes die snelle en gegarandeerde rendementen beloven, vaak ondersteund door het ongeoorloofde gebruik van beroemde mensen of bekende zakenlieden.
- Phishing en kwaadaardige links: URL's die legitieme portals nabootsen – banken, e-commerceplatforms, overheidsdiensten – met als doel inloggegevens te stelen of malware op het apparaat te installeren.
De combinatie van geautomatiseerde monitoring, zwarte lijsten met gevaarlijke websites en meldingsmechanismen voor gebruikers maakt het mogelijk dat Het systeem past zich snel aan nieuwe varianten van deze oplichtingspraktijken aan.die vaak muteren om gemakkelijker opsporing te ontwijken.
Impact op gebruikers, bedrijven en oprichters die afhankelijk zijn van Meta
De nieuwe AI-functies ter bestrijding van fraude hebben niet alleen een direct effect op de gemiddelde gebruiker, maar ook op andere aspecten. Bedrijven die Facebook, WhatsApp en Messenger als basisinfrastructuur gebruiken. voor verkoop, klantenservice of gemeenschapsopbouw.
Enerzijds, als een bedrijf WhatsApp Business of Messenger gebruikt om met klanten te communiceren, Hun berichten kunnen waarschuwingen activeren als het systeem ze als verdacht beschouwt.Bijvoorbeeld door veel links op te nemen of gevoelige gegevens op te vragen. Dit vereist een herziening van scripts, toon en frequentie om valse positieven te minimaliseren en het vertrouwen van het publiek te behouden.
Aan de andere kant zijn er startups in bijzonder gevoelige sectoren, zoals fintech, digitale gezondheidszorg of juridische dienstverlening— ze zien in deze tools een duidelijk teken: AI-gebaseerde beveiliging is niet langer een "extraatje" en maakt nu deel uit van de minimale verwachtingen van elk product of elke dienst die kritieke gegevens verwerkt.
De toenemende samenwerking van Meta met andere technologiebedrijven en overheidsinstanties opent ook de deur naar Nieuwe kansen voor bedrijven die gespecialiseerd zijn in cybersecurity.die hun oplossingen kunnen integreren met de ecosystemen voor dreigingsdetectie van grote platforms of adviesdiensten kunnen verlenen aan kleinere bedrijven.
Uiteindelijk zal de effectiviteit van deze maatregelen afhangen van zowel gebruikers als organisaties die goede praktijken toepassen: beschikbare antifraude-functies activeren, apps up-to-date houden, alert zijn op ongevraagde berichten en verdacht gedrag melden aan detectiesystemen voor fraude.
Met de implementatie van zijn nieuwe AI-technologie tegen fraude op Facebook, WhatsApp en Messenger.Meta zet een belangrijke stap richting een digitale omgeving die het voor oplichters wat moeilijker maakt en die iets veiliger is voor degenen die de diensten dagelijks gebruiken, van individuele gebruikers tot bedrijven die voor een essentieel onderdeel van hun activiteiten afhankelijk zijn van deze platforms.
