{"id":12475,"date":"2023-06-15T10:57:10","date_gmt":"2023-06-15T15:57:10","guid":{"rendered":"https:\/\/syspertec.com.co\/web\/?p=12475"},"modified":"2023-06-15T10:57:16","modified_gmt":"2023-06-15T15:57:16","slug":"chatgpt-a-prueba-puede-el-bot-de-ia-combatir-las-ciberestafas","status":"publish","type":"post","link":"https:\/\/syspertec.com.co\/web\/chatgpt-a-prueba-puede-el-bot-de-ia-combatir-las-ciberestafas\/","title":{"rendered":"ChatGPT, a prueba: \u00bfPuede el bot de IA combatir las ciberestafas?"},"content":{"rendered":"\n

Kaspersky analiza los conocimientos de ciberseguridad adquiridos por ChatGPT y su potencial de convertirse en un aliado en la lucha contra el cibercrimen<\/em><\/p>\n\n\n\n

Expertos de Kaspersky han realizado una investigaci\u00f3n a fin de conocer la capacidad de ChatGPT para detectar enlaces de phishing<\/em>. Este bot ya hab\u00eda demostrado ser capaz de <\/strong>crear<\/strong><\/a> correos electr\u00f3nicos de phishing<\/em> y c\u00f3digo <\/strong>malware<\/strong><\/a>. Aunque ChatGPT sabe mucho sobre phishing<\/em>, mostr\u00f3 una tasa de falsos positivos del 64%, arrojando explicaciones y pruebas falsas para justificar las decisiones.<\/strong><\/p>\n\n\n\n

ChatGPT es motivo de discusi\u00f3n en el sector de la ciberseguridad por su potencial para crear correos de phishing<\/em> y su impacto en la ciberseguridad, a pesar de que sus creadores explican que es demasiado pronto para que pueda ser una amenaza. En este contexto, los expertos de Kaspersky decidieron realizar una serie de pruebas para saber si es capaz de detectar enlaces de phishing<\/em>. As\u00ed, utilizaron gpt-3.5-turbo, el modelo que impulsa ChatGPT, sobre m\u00e1s de 2,000 enlaces de phishing<\/em> mezclados con otras miles de URL seguras.<\/p>\n\n\n\n

Las tasas de detecci\u00f3n fueron dispares. Se le pregunt\u00f3 de dos formas distintas: \u2018\u00bfEste enlace conduce a un sitio web de phishing<\/em>?\u2019 y \u2018\u00bfEs seguro visitar este enlace?\u2019. En la primera pregunta, ChatGPT tuvo una tasa de detecci\u00f3n del 87,2% y un 23,2% de falsos positivos. En la segunda, obtuvo una tasa de detecci\u00f3n m\u00e1s alta, del 93,8%, pero una de falsos positivos del 63,4%. Es decir, el nivel de detecci\u00f3n de amenazas es muy alto, pero tambi\u00e9n lo es el de errores.<\/p>\n\n\n\n

Pregunta realizada<\/strong><\/td>Tasa de detecci\u00f3n<\/strong><\/td>Tasa de falsos positivos<\/strong><\/td><\/tr>
\u00bfEste enlace conduce a un sitio web de phishing<\/em>?<\/td>87,2%<\/strong><\/td>23,2%<\/strong><\/td><\/tr>
\u00bfEs seguro visitar este enlace?<\/td>93,8%<\/strong><\/td>64,3%<\/strong><\/td><\/tr><\/tbody><\/table><\/figure>\n\n\n\n


Otra cuesti\u00f3n que se plantearon los expertos de Kaspersky es si ChatGPT podr\u00eda clasificar e investigar los ciberataques. Los atacantes mencionan generalmente marcas populares en sus enlaces para enga\u00f1ar a la v\u00edctima, haci\u00e9ndola as\u00ed creer que la URL es leg\u00edtima y pertenece a una empresa de confianza. ChatGPT mostr\u00f3 unos resultados sorprendentes en la identificaci\u00f3n de posibles objetivos de phishing: resolvi\u00f3 con \u00e9xito un objetivo de suplantaci\u00f3n de identidad en m\u00e1s de la mitad de las URL, entre los que se encontraron portales y apps tan populares como Facebook, TikTok, Google, Amazon y numerosos bancos de todo el mundo, y lo hizo sin ninguna informaci\u00f3n adicional ni aprendizaje previo.<\/p>\n\n\n\n

El experimento tambi\u00e9n mostr\u00f3 que ChatGPT tiene problemas al justificar lo que considera un enlace malicioso. Algunas de las explicaciones fueron correctas y se basaron en hechos probados, pero otras fueron err\u00f3neas, enga\u00f1osas e inventadas, a pesar de formularse con una gran credibilidad.<\/p>\n\n\n\n

\u201cA d\u00eda de hoy, la detecci\u00f3n de ataques de phishing con ChatGPT tiene limitaciones. Puede estar al nivel de un analista a la hora de razonar sobre de los ataques de phishing y revelar objetivos potenciales, pero en ocasiones tiende a inventarse las respuestas y muestra resultados err\u00f3neos. Se puede decir que es una herramienta \u00fatil, pero de momento no va a revolucionar el panorama de la ciberseguridad\u201d<\/em>, explica Vladislav Tushkanov, principal data scientist de Kaspersky<\/strong>.<\/p>\n\n\n\n

El equipo de Machine Learning de Kaspersky est\u00e1 a la vanguardia en la aplicaci\u00f3n de tecnolog\u00edas de aprendizaje autom\u00e1tico al sector de la ciberseguridad, actualizando constantemente sus productos con la \u00faltima tecnolog\u00eda y conocimiento. Para aprovechar la experiencia de Kaspersky en aprendizaje autom\u00e1tico y estar siempre protegido, sus expertos recomiendan:<\/p>\n\n\n\n