IBM desarrolla marcas de agua para proteger la propiedad de los modelos de IA

[wolfbcn]

IBM ha mostrado su investigación sobre modelos de marcas de agua desarrollados por Redes Neuronales Profundas (DNN) en la conferencia ASIACCS 2018, donde se comprobó que eran altamente robustos. Esta tecnología plantea un mecanismo de verificación remota para determinar la propiedad de los modelos de DNN utilizando llamadas de API simples.

El gigante azul explicó que ha desarrollado tres algoritmos de generación de marcas de agua: incrustando contenido válido junto con los datos de preparación como marcas de agua dentro de DNN protegidas, incrustando muestras de datos irrelevantes como marcas de agua en DNN protegidas e incrustando ruido como marcas de agua en DNN protegidas.

IBM ha comentado que en sus pruebas internas, utilizando diversos conjuntos de datos como los MNIST, un modelo DNN con una marca de agua desencadena una "respuesta inesperada pero controlada". La compañía aclara que no es la primera vez que se ha planteado esta idea, pero que las metodologías anteriores estaban limitadas en potencial debido a que necesitaban acceder a los parámetros del modelo para determinar el propietario.

La tecnología que ha desarrollado IBM resulta inmune a las técnicas de eliminación de las marcas de agua como el ajuste de parámetros y la poda. Sin embargo, también tiene algunas limitaciones, como la imposibilidad de detectar la propiedad si el modelo se implementa internamente en lugar de en línea. Tampoco protege de la posibilidad de que los modelos de DNN puedan ser robadas mediante predicción de API, aunque los ataques para llevar a cabo esto solo han funcionado en la práctica para los algoritmos convencionales de aprendizaje automático con menos parámetros de modelo, tales como árboles de decisión y regresiones logísticas.

IBM ha declarado que actualmente está considerado usar este framework de marcas de agua internamente y explorará cómo ponerlo a disposición de los clientes. Esta tecnología, que está pendiente de ser patentada, podría ayudar en un futuro a mejorar la protección de la propiedad intelectual de componentes digitales como fotos y vídeos, yendo más allá de la Inteligencia Artificial.

Fuente: Neowin

https://www.muycomputer.com/2018/07/22/ibm-marcas-agua-proteger-propiedad-ia/