Aplicación de IA a Lego y seguridad


Imagínese, si lo desea, su trabajo no era la tecnología que conocemos, pero le pagaron por la construcción …

Conjuntos de Lego todo el día: cierto conjunto de Lego Set, a saber, la nave espacial de Han Solo, el Halcón Milenario. Claro, podría ser divertido por unos días, pero eventualmente te aburrirás después de completar tu halcón del sexto, séptimo u octavo milenio.

Durante un descanso, tomamos 20 minutos para hablar Ann Ann, vicepresidenta de seguridad cibernética de Microsoft, asistió recientemente a una cumbre sobre temas digitales e Internet organizada por el gobierno irlandés en Dublín Analogía dibujada.

SOC [ Centro de Operaciones de Seguridad ] Admin – tienen un cerebro que necesita ser desafiado ", dice ella. "Si sigo dándoles un kit de Lego que siempre construye el Halcón Milenario, y eso es lo único que pueden hacer, eventualmente se aburrirán".

¿Qué tiene que ver eso con la ciberseguridad? y inteligencia artificial (AI) en particular? No te preocupes, esto no fue solo una excusa para encontrar una referencia de Star Wars. Eso va a alguna parte.

Señal de ruido

"Vemos tanta señal, ¿verdad?", Dice Johnson. Por lo tanto, necesita aprendizaje automático para racionalizar toda la señal que vemos, pero si la IA es más que aprendizaje automático, algo que justifica y piensa, ayuda a nuestros analistas a mejorar. [19659008] "Ahora hemos aprendido que el análisis más la IA es un resultado mucho mejor, ayudándoles a trabajar mejor, de manera más inteligente y más rápida, y hablo mucho sobre la automatización de tareas de bajo nivel, eso es porque nuestra gente Número dos, son mejores en eso; número dos, están aburridos ".

Regresemos a Lego por un momento. Si le das los mismos kits del Halcón Milenario a la IA, los constructores humanos o los analistas de seguridad pueden desafiarse a sí mismos con algo nuevo. Quizás la Torre del Señor de los Anillos de Orthanc, la Sede de los Cazafantasmas o el Helicarrier Escudo del Universo Cinematográfico de Marvel ( otros kits de Lego están disponibles ).

O, como dice Johnson, "la IA en realidad nos ayuda a reconocer qué es una tarea realmente compleja y qué es una tarea realmente simple, y luego podemos usar la corrección automática de estas tareas simples para ayudar a las personas con la IA trabaje tareas realmente complejas, y ese es el lugar donde queremos obtener mejores resultados, entonces obtendrá resultados más rápidos.

"El tiempo de detección es probablemente lo más importante para la ciberseguridad. Cuanto antes podamos hacer que la máquina de aprendizaje nos diga que esto es algo real y más rápido podremos hacer que la IA diga que no solo es real, sino que es importante, porque esa es la lente que la IA le pone: es realmente increíblemente valioso.

Por ejemplo, el aprendizaje automático puede identificar una pieza de malware [1 9459005] sin ningún problema, pero AI agregará la capacidad de tomar algo que nunca antes se había visto, lo que resulta en un nuevo malware o un nuevo Internet de las Cosas ( IoT) dispositivo que nunca se ha conectado a la red corporativa. Comprenda su comportamiento y clasifíquelo como seguro o no.

"Esa es la diferencia", dice Johnson. "El aprendizaje automático puede ayudarnos a llegar a un subconjunto específico, pero necesitamos inteligencia artificial para obtener un poco más de información".

AI in the Wild en Microsoft

Obviamente, este tipo de caso de uso sigue siendo una forma La mayor parte del trabajo de Microsoft en esta área hoy se centra en el aprendizaje automático, pero la organización tiene IA para producir cepas de malware previamente desconocidas usado y algunos éxitos enumerados.

También ha estado trabajando en un programa piloto en el contexto de su propio SOC, utiliza IA para resolver conflictos y priorizar las colas, de modo que los analistas no tengan que lidiar con cien tickets normales cuando lleguen al trabajo, sino que comiencen de inmediato. Debido a la pequeña cantidad de incidentes que la IA ha modelado como una amenaza viable, la ha analizado por sí sola.

También se utiliza en un contexto de seguridad durante todo el proceso de desarrollo de software. Después de todo, Microsoft es una compañía de software antes de ser una seguridad: poro sobre el código reescrito para detectar posibles debilidades en el camino antes de que algo se publique en los entornos de los clientes. ¿Podría AI significar el final para Patch Tuesday ? Tal vez.

Trabajos de IA y seguridad

Johnson proclama bastante relajado sobre la reunión de trabajos de analistas de tecnología y seguridad de AI en su área de responsabilidad, lo cual es justo si lo piensas porque, después de todo, necesitas personas cuando Solo multiplican a los humanos.

"En mi vida, nunca llegarás a un punto en el que la inteligencia artificial o el aprendizaje automático reemplazarán a las personas en un COS", dice. "Creemos que la IA más el humano es un resultado mucho mejor.

"El equipo global de respuesta a incidentes de Microsoft está en mi área de responsabilidad en Microsoft, por lo que si un cliente se lastima, ¿ese es mi enfoque? ¿Hay cosas? No puedo enseñar una computadora o una herramienta, como el modo del atacante o el enjuiciamiento de evidencia ".

" Puedo enseñarle a hacer informática forense, pero eso es solo una parte. El misterio es cuando tratas de localizar a alguien en la naturaleza y descubrir quién está en ese entorno.

Johnson agrega: "Mucho ciber es solo el trabajo central de la policía, que solo se aplica a las computadoras, razón por la cual las personas en ciberseguridad son tan desesperadamente necesarias". Es por eso que está contratando a muchas fuerzas policiales ex.

Entonces, ¿el objetivo es hacer que AI entienda qué motiva a los cibercriminales? No necesariamente, es seguro No es uno de los principales objetivos de Johnson, sobre todo porque todavía estamos un poco fuera del día en que las IA realmente piensan como humanos.

Incluyendo IA

¿Pero le gustaría que lo hicieran? Detrás de cada conversación sobre AI en un contexto de aplicación de la ley hay historias de horror sobre abuso y abuso. En el mundo real, los litigios se están librando actualmente por el uso de la tecnología automatizada de reconocimiento facial (19459023) (19459005), mientras que la reciente miniserie de la BBC (19659027) The Capture (19659028) muestra un escenario demasiado plausible donde el aprendizaje automático ayuda Profundo Genere videos falsos para involucrar a un hombre inocente en un secuestro y asesinato.

Esto debe ser absolutamente claro para la industria de la tecnología, especialmente en el contexto de la ciberseguridad, porque ¿cuándo? Si otorga los mismos poderes de investigación a un KI que una agencia de aplicación de la ley, debe asegurarse de que este no sea el caso, por ejemplo, crear perfiles raciales. Una búsqueda rápida en línea genera cientos de artículos racistas de noticias sobre IA, y Microsoft mismo estuvo implicado en uno de ellos en 2016. Para Johnson, esto habla de la necesidad de centrarse en las diversas actitudes en la industria tecnológica de IA. "Lo diré sin rodeos", dice ella. "Como mujer que ha trabajado en el campo técnico durante 30 años y es madre de una hija transexual, tengo muchos prejuicios en el mundo, y esto es lo que puedo decirte: seguimos contratando personas, todas ellas tienen un doctorado y todos son hombres blancos, heterosexuales, todos piensan igual.

"Si no estamos buscando personas que se hayan graduado de una universidad estatal y que ni siquiera tengan un título en ciencias de la computación y No estamos listos para capacitarlos siempre tendremos un problema de sesgo ,

Para garantizar que los KI no estén sesgados, es crucial que sean desarrollados por una fuerza laboral diversa y equipos en los que las personas tengan el poder de hablar cuando Piensa que algo está mal.

"Solo necesitamos expandir a quién queremos traer", dice Johnson. "Y necesitamos personas con antecedentes liberales y de ciencias sociales si queremos programar la IA, porque tenemos que pensar en el amplio espectro de la sociedad".

En Prosecco y Canapes la noche anterior, otro periodista habló sobre el valor que los científicos sociales proporcionan a la tecnología, y quería que los filósofos recorrieran los pasillos de Redmond. Le pasé esta idea a Johnson cuando terminamos nuestro tiempo juntos. "Sí, eso debería ser", dice ella.



Software trazabilidad de Cea Ordenadores