Chatsight fait pivoter son IA de modération de contenu pour lutter contre les escrocs Discord


En bref

  • Les escroqueries continuent de tourmenter les collections DAO et NFT, exploitant les faiblesses humaines et de la plate-forme
  • L’ancien service de modération de contenu Chatsight applique désormais l’IA aux serveurs Discord

Alors que l’industrie de la cryptographie se concentre sur la construction de l’avenir Web3 décentralisé, les plates-formes Web2 centralisées telles que Discord, Twitter et Telegram sont l’endroit où la communauté vit aujourd’hui. Alors que les DAO et les collectifs NFT continuent d’utiliser ces plateformes, les fraudeurs affluent pour escroquer et voler. La Federal Trade Commission a récemment signalé que plus d’un milliard de dollars en crypto avaient été perdus à cause d’escroqueries depuis 2021.

Pour aider à lutter contre ces attaques, une nouvelle startup basée à San Francisco appelée Chatsight fait de la sécurité des serveurs Discord son activité principale, rejoignant une liste croissante de services visant à protéger les communautés Discord.

Chatsight fait pivoter son IA de modération de contenu pour lutter contre les escrocs Discord

Fondée en 2021 par Marcus Naughton, Chatsight s’appelle une « société de sécurité en tant que service » conçue pour fournir une couche de sécurité supplémentaire aux plateformes de médias sociaux comme Discord et Telegram. Ces plateformes sont devenues centrales pour les projets Web3 cherchant à organiser et construire des communautés autour de leurs projets.

a déclaré Naughton à Decrypt. Telegram et d’autres au fur et à mesure qu’elles se présentent avec l’objectif final de fournir des outils de sécurité pour les réseaux en chaîne. »

Discord est un endroit populaire pour les DAO (organisations autonomes décentralisées) pour s’organiser et collaborer. Les DAO sont des communautés peu organisées qui se réunissent pour construire ou soutenir des projets de cryptographie et financent souvent leurs activités avec des jetons.

Déjà méfiants vis-à-vis des escrocs, les DAO utilisent des projets tiers comme Collab.Land pour agir en tant que gardiens de leurs serveurs Discord, en vérifiant que les membres détiennent le jeton DAO avant d’y accéder. Mais alors que les gardiens de jetons peuvent gérer les adhésions, la sécurité reste un problème.

En mai, la société de sécurité PeckShield a publié une alerte sur Twitter indiquant que des escrocs avaient exploité le serveur Discord du marché NFT OpenSea pour promouvoir une escroquerie NFT.

Plus tôt ce mois-ci, le serveur Discord du célèbre collectif NFT Bored Ape Yacht Club a été compromis, permettant aux escrocs de s’enfuir avec des NFT d’une valeur de 200 ETH (358 962 $ à l’époque).

Nos serveurs Discord ont été brièvement exploités aujourd’hui. L’équipe l’a attrapé et l’a traité rapidement. Environ 200 ETH de NFT semblent avoir été touchés. mais si vous avez été impacté.io.

Suite à l’exploit, un co-fondateur du Bored Ape Yacht Club s’en est pris à Discord le 4 juin, affirmant que l’application de communication populaire « ne fonctionne pas pour les communautés Web3 ».

Alors que Chatsight est destiné à être déployé sur les plateformes de médias sociaux, explique Naughton, l’accent est mis sur les escroqueries et les attaques de phishing, et non sur la modération du contenu, ajoutant : « la seule chose sur laquelle tout le monde peut s’entendre est les arnaques c’est mal. »

Chatsight a commencé comme une plate-forme de modération de contenu IA pour les réseaux sociaux, explique Naughton, mais a pivoté après avoir parlé avec un propriétaire de groupe crypto Telegram qui payait environ 5 000 $ pour que des personnes physiques surveillent la chaîne.

« Si ces personnes paient des humains pour faire cela, cela montre qu’il y a un besoin auquel ces plateformes ne répondent pas », a déclaré Naughton. « Lorsque vous construisez vos communautés sur ces plates-formes, vous vous engagez expressément sur le fait que vous reprenez maintenant la sécurité entre vos mains. »

Naughton dit que Chatsight vise à agir en tant que partenaire de sécurité géré, « un quasi antivirus », offrant aux utilisateurs une suite d’outils pour surveiller leurs serveurs Discord.

Selon Naughton, Chatsight utilise un compte Discord « à vide », un inutilisé nulle part ailleurs. Une fois associé au serveur Discord, ce compte reçoit les droits d’administrateur. Il peut ensuite surveiller le serveur pour détecter les escroqueries et les attaques de phishing, en séparant le propriétaire du compte du serveur tout en permettant au propriétaire du serveur de contrôler le bot Chatsight.

Naughton dit que le produit freemium comprend des fonctionnalités qui offrent une sécurité supplémentaire, notamment Enterprise Cloudflare, la vérification du compte Discord, la vérification de la réputation du compte sur Discord et des sanctions allant d’un délai d’attente de 30 minutes à l’interdiction des comptes qui sont signalés à plusieurs reprises.

Pour Naughton, le défaut de la version actuelle d’Internet est que les utilisateurs cèdent les actifs qu’ils possèdent (plans, conceptions, missions, etc.) à des tiers comme Discord, Twitter et Telegram pour héberger et, espérons-le, assurer la sécurité. Pourtant, les utilisateurs n’ont pas leur mot à dire sur cette sécurité.

déclare Naughton. à partir de la position par défaut, que vous allez être exploité,? »

Vous voulez être un expert en crypto? Obtenez le meilleur de Decrypt directement dans votre boîte de réception.

Obtenez les plus grandes actualités cryptographiques + des résumés hebdomadaires et plus encore  !