Google допринася за проучванията за откриване на дълбоки фалшификати със своя визуален корпус за дълбоко фалшифициране

Deepfake Corpus

Дълбокото обучение е напреднала област на машинното обучение, която бързо се разраства в наши дни. Въпреки че са направени много изследвания в тази област, все още има пропуск в научните изследвания. Инженерите на Google са направили значителен принос в това отношение и работят активно за създаването на някои основни корпуси. Гигантът за търсене наскоро си сътрудничи с Jigsaw, за да пусне огромен корпус от дълбоки фалшификати. Сега изследователите могат да работят върху рамки за синтетично видеозаснемане с помощта на свободно достъпния корпус.

Андрю Гъли, технически ръководител на Jigsaw и Ник Дюфур, изследовател на Google, описани в блог пост :

След първото им появяване в края на 2017 г. се появиха много методи за генериране на дълбоки фалшиви файлове с отворен код, което доведе до нарастващ брой синтезирани медийни клипове. Докато много от тях вероятно са предназначени да бъдат хумористични, други могат да навредят на хората и обществото.

Освен това Google заяви, че компанията е работила с съгласни и платени актьори, за да компилира набора от стотици видеоклипове. След това компанията използва видеоклиповете, за да произведе хиляди фалшиви фалшификати. Те генерираха както фалшиви, така и реални проби.

Като се има предвид факта, че deepfake е развиваща се технология, компанията ще продължи да добавя към корпуса.

Ние твърдо вярваме в подкрепата на процъфтяваща изследователска общност за смекчаване на потенциални вреди от злоупотреби със синтетични медии и днешното пускане на нашия набор от дълбоки фалшиви данни в бенчмарка FaceForensics е важна стъпка в тази посока.

Видеоклиповете на Deepfake първоначално бяха забелязани през 2017 г. Тези видеоклипове първоначално бяха компилирани за хумор. Сега хората използват системи, базирани на AI, за генериране на манипулативни видеоклипове, които разменят лицата на хората. Има различни приложения за генериране на дълбоки фалшификати, които могат да бъдат за тази цел.

Хубавото е, че властите сега са забелязали този въпрос и приемат строги закони, за да засилят контрола. Наборът данни deepfake е основен принос за разрешаването на проблема. Освен това Google вече работи за смекчаване на потенциалната злоупотреба с тази технология. Компанията пусна синтетичен речев корпус, който по-късно беше използван от повече от 150 научни изследвания.