In depth analysis of Long-Short-Term-Memory Neural Networks with the purpose of detecting cyberbullying

Sosiale medier har blitt svært populære i den siste tiden. Blant alle fordelene som sosiale medier bragt med seg, er det også noen problemer. Ett av de største problemene som har kommet med den økte bruken av sosiale medier er nettmobbing. Ny statistikk viser at nettmobbing er et problem som øker i omfang år etter år. Problemet er at sosiale medier skaper så mye data at det er svært vanskelig å fange opp og stoppe nettmobbing ved hjelp av manuell overvåkning. Dette har motivert forskere til å forsøke å finne en automatisert metode for å fange opp tilfeller av nettmobbing. I de siste årene så har det blitt populært blant forskere å bruke en type kunstig intelligens nettverk kalt Long-Short-Term-Memory Neural Network til dette formålet. I denne masteroppgaven vil vi presentere vår empiriske evaluering av forskjellige typer kunstig intelligens nettverk, for å undersøke hvordan man bør designe disse nettverkene for å maksimere deres evne til å fange opp nettmobbing. Vi har foretatt to omfattende eksperimenter med Long-Short-Term-Memory Neural Networks, hvor vi har testet 56 forskjellige design, for å se hvilke som fungerer best. Disse eksperimentene har blitt gjennomført som faktoriale eksperiment, som betyr at et sett av variabler har blitt endret i samspill med hverandre. Dette har gjort det mulig for oss å studere årsak-virkning sammenhenger mellom variablene på en mye bedre måte enn hva som er mulig ved å kun studere tidligere publisert forskning. For å gjøre eksperimentene i denne studien så relevant som mulig for fremtidig forskning innen feltet, så har vi basert hele vår Natural Language Processing pipeline som leder opp til kunstig intelligens nettverkene på eksisterende «state of the art» forskning innen feltet. Vi går også igjennom vår Natural Language Processing pipeline i detalj, slik at den lett kan bli gjenbygd av utenforstående, og dermed brukt til fremtidig forskning på andre variabler enn de vi tester. I våre eksperimenter så tester vi fire hoved variabler; komposisjon av forskjellige typer nettverkslag, stabling av like typer nettverkslag oppå hverandre, hvor mange generasjoner nettverket trenes og aktiveringsmekanisme for de to forskjellige klassene. Våre funn viser at den beste komposisjonen av nettverkslag er å kombinere lagene fra et typisk Convolutional Neural Network med Long-Short-Term-Memory nettverkslag. Vi fant også ut at uansett hvilken komposisjon av nettverkslag man bruker så vil man forbedre ytelsen til det kunstige nettverket v