공부하는 제이의 블로그

AI 콘텐츠 탐지기 (feat. LLM 워터마킹, GPTZero)

제이gnoej — Fri, 17 Nov 2023 22:05:17 +0900

참고자료 : https://youtu.be/-vToUx5SDW4?si=AzCDhJ51m6VI9fvZ

커피빈 선생님 최고

어떻게 AI 가 생성한 텍스트인지 알 수 있을까? 2가지 방법이 있는데 크게

1) perplexity / burstiness

2) watermarking

이 2가지를 이용하는 방법이 있다.

첫번째의 경우 모델이 생성한 텍스트만 (많이) 있으면 쉽게 Detector 를 만들 수 있다. (유저가 만들 수 있음)

후자는 아예 모델의 디코딩 과정을 약간 수정해서 고유의 워터마크를 집어 넣는 방법이다. (개발자만 가능)

1. Perplexitly / Burstiness

GPT_0 가 바로 첫번째 방법으로 만들어진 모델이라고 할 수 있음 (텍스트를 복붙하면 model generated text 인지, human generated text 인지 return)

일단 LLM 이 쓴 글이랑 사람이 쓴 글이랑 2가지 (perplexity / burstiness) 에서 차이가 있다는 가정에서 시작한다. perplexity 의 경우 LLM 의 probability 의 반대 개념이라고 생각하면 된다.

perplexity 가 높을 수록 improbable prediction 이 많다는 의미이다 (low probability, 깜짝 놀라게 하는 prediction).

반대로 probabliity 가 높은 prediction 일수록 perplexity 는 낮다 (high probability, 별로 놀랍지 않은 prediction).

즉 p(current wowrd | previous word) 을 구해야 하는데, 그럼 모델 parmeters 에 접근 계산해야 되는거 아냐? 라고 생각할 수 있다. 결과적으로 답은 NO => 그냥 그 모델이 생성한 text 가 아주 많으면 된다.

이 text 를 가지고 작은 generative 모델을 training 하면 그 모델의 perplexity 가 타겟 모델의 perplexity 의 근사치라고 가정하는 거임.

burstiness 라는 건 쓰인 문장들이 서로 얼마나 다양하냐? 정도로 해석할 수 있을 것 같은데 예를 들어서 사람이 글을 쓸 때 rare word 가 등장한다고 하자. 이 단어는 한 두번 쓰이다가 다른 문장에서는 안 쓰이기 때문에 문장 간 스타일이 매우 various 하다고 할 수 있음. 그런데 이에 비해서 LM 은 문장 들이 어느 정도 일정한 차이를 유지하기 때문에 burstiness 가 낮다.

Human : various style across sentences <-> Robot : consistent style across sentences

근데 사실 이렇게 학습된 detector 은 쉽게 속일 수 있다고 한다.

예를 들어 AI generated text 를 아주 살짝만 고치거나, grammar mistake, typo 등을 조금만 넣어주면 gpt0 는 속이기 쉽다고 한다. 반대로 어떤 사람이 굉장히 constant style of writing 을 가지고 있어도 이걸 AI gen text 라고 잘못 예측할 가능성이 있음 (개억울)

이런 거에 상관없이 좀 더 정확한 방법이 없을까? => 각 모델에 water mark 를 추가하는 것.

2. Watermarking

LLM 이 decoding 할 때, 즉 next word generation step 에서 가장 probable 한 단어를 선택하는 greedy search 를 사용하지 않는다 (Greedy search 를 적용하면, 계속 같은 문장이 반복될 수 있고 사람이 쓴 글이랑 너무 다르기 때문)

실제로는 가끔씩 less probable 하지만, 문장 전체의 overal score는 높게 하기 위해서 random sampling 같은 걸 한다고 한다. 간단히 말하면 가끔씩 less probable 한 단어를 선택한 다음에 얘네들 사이에서 probability 를 구하는거임

이 random sampling 과정에서 워터마크를 추가할 수 있다. next word prediction 을 할 때, 전체 vocabulary 의 20% 는 블랙리스트에 추가하고 나머지 80% 에서만 단어를 샘플링하고 이 중에서 probabliity를 구하고 선택하게 한다면? (이 때, previous word 를 random seed 로 쓰고, 이 시드를 각진 random number generator 가 랜덤하게 블랙리스트를 만든다)

=> 결과적으로 이 모델은 어떤 단어 다음에는 절대로 쓰지 않는 단어가 생길 것. 이에 반해서 사람은 이런 constraint 가 없기 때문에 black list 에 들어가 있는 단어들도 쓰게 될 것. 그래서 어떤 글을 보고, black list 가 쓰여진 경우를 모두 세서 그게 높다면 사람이 쓴 글.

근데 가끔은 이 단어 다음에는 꼭 이게 와야 하는데, 그게 블랙리스트에 들어가면 어떻게 해? 라고 생각할 수 있는데 이런 문제를 해결하기 위해서 아래 빨간 그래프처럼 한 가지 단어의 probability 만 높고 나머지 단어들은 매우 낮은 경우 (low entropy) 이걸 적용하지 않고, high entropy 상황에서만 한다고 한다.

근데 모든 방법이 단점이 있듯이, 이것도 attack 할 수 있는 방법이 있긴 있음.

예를 들어 워터마크가 들어간 모델에게 스페이스 대신 이모지를 2개 쓰라고 하면 이 모델이 생성한 텍스트는 black list 가 randomize 되는 효과?가 있다고 함. 그래서 이렇게 생성된 텍스트를 가지고 user 가 이모지를 스페이스만 갈아끼우면 이 텍스트를 가지고는 water mark 를 찾아낼 수 없음. 마찬가지로 chat gpt 한테 모든 단어의 o 를 e 로 바꿔서 써! 한다음에 내가 다시 이 텍스트를 바꿔쓰면 마찬가지로 워터마크가 드러나지 않는 텍스트임.

그리고 무엇보다도 이건 각 LLM 을 만드는 개발자들이 자기네 노력으로 워터마킹을 모델에 추가해야 하는 부분이라서 그들이 안 하면 방법 없음

Framenet , Propbank, Verbnet

제이gnoej — Wed, 4 Oct 2023 18:18:22 +0900

차이 정리한 slides: framenet,prombank,vernet

모두 lexical database 라고 보면 될까?

Framenet: The basic idea is straightforward: that the meanings of most words can best be understood on the basis of a semantic frame: a description of a type of event, relation, or entity and the participants in it. (ref: https://www.nltk.org/howto/framenet.html)

=> 그래서 비슷한 frame 을 가지는 단어들을 그룹화 하고, 그 그룹의 description, 그 그룹이 가지는 relation 등을 정의해놓은 듯.

예를 들어, Arrest 라는 프레임의 경우, Frame elements 로 아래 리스트를 가짐.

'Authorities',
 'Charges',
 'Co-participant',
 'Manner',
 'Means',
 'Offense',
 'Place',
 'Purpose',
 'Source_of_legal_authority',
 'Suspect',
 'Time',
 'Type'

Propbank : predicate 이랑 arguments 들을 정리해 놓음. 장점은 very standardized (arg0, arg1.. ). Propbank 는 a set of frame files 로 이루어져 있고, 각 frame file 마다 하나 혹은 여러개의 propbank verb sense 가 정의되어 있는데 이걸 바로 frame sets 라고 한다.

Verbnet: English verb 만 annoate 한 건데, verb 마다 agent, theme, etc 등을 정의해 놓음. 그리고 비슷한 verb 끼리 묶어놓음.

발췌

FrameNet, VerbNet and PropBank. The FrameNet corpus contains the examples annotated with semantic roles whereas the VerbNet lexicon provides the knowledge about the syntactic behavior of the verbs. We connect VerbNet and FrameNet by mapping the FrameNet frames to the VerbNet Intersetive Levin classes. The PropBank corpus, which is tightly connected to the VerbNet lexicon, is used to increase the verb coverage and also to test the effectiveness of our approach.

정리: predicate 을 정리한 lexical dataset 임. 어떻게 정리했냐? 각 predicate 마다 description 과 함께 쓰이는 elements 들로 구조화하고, 공통적인 단어들끼리 묶었다는 점에서 비슷한데, role 을 어떻게 정의했느냐 (e.g. AMR: arg0, arg1 / Verbnet: agent, theme / Frameset: 이건 frame 마다 다름), 어떤 단어들끼리 어떻게 묶었냐 이런 것들이 다른 듯.

[스크랩] batch size 는 꼭 2의 n제곱이어야 할까?

제이gnoej — Wed, 12 Apr 2023 16:12:55 +0900

https://wandb.ai/datenzauberai/Batch-Size-Testing/reports/Do-Batch-Sizes-Actually-Need-To-Be-Powers-of-2---VmlldzoyMDkwNDQx

Do Batch Sizes Actually Need To Be Powers of 2?

Is the fixation on powers of 2 for efficient GPU utilization an urban myth? In this article, we explore whether this argument is true when using today's GPUs.

wandb.ai

=> 여러 batchsize 를 가지고 total runtime 을 비교함. 결과적으로, 사이즈가 2의 n 제곱이든 2의 n 제곱 + 1 이든 두드러지는 차이가 있는 것도 아니고 general 하게 적용되는 최고의 batch size 도 없음.

결론: 자기 실험이랑 gpu 에 맞는 batchsize 를 정하면 된다.

[스크랩] DDP 커뮤니케이션 타입 ex. all reduce, scatter..

제이gnoej — Tue, 11 Apr 2023 23:15:17 +0900

1. ddp backend 타입 별로 사용가능한 communication strategy

https://pytorch.org/docs/stable/distributed.html

2. 각 communication strategy 설명 (그림)

https://pytorch.org/tutorials/intermediate/dist_tuto.html

Python GIL - 왜 Data parallel 이 DDP 보다 속도 향상에 도움이 되지 않을까?

제이gnoej — Fri, 31 Mar 2023 01:36:38 +0900

https://www.youtube.com/watch?v=SyIvYUgDbjA

=> 기깔나게 설명해 놓았음.. 참고하기

결론적으로 파이썬은 One process, Multi-threads 는 안됨. 그니까 파이썬 코드 짤 때는 그렇게 짤 수 있지만 실제로 동작 방식이 그렇게 진행이 안 됨. 그게 GIL (Global Interpreter Lock) 때문임

=> reference counting 으로 변수 메모리를 관리하는 파이썬 특성때문에 그럼.

우선, Multithreads 는 하나의 process 내에서는 변수, 데이터를 공유하는 구조임. 그래서 multi-threads 를 허용하면 thread 1 에서 이미 삭제된 변수를 thread 2 가 접근하려고 할 때 - (다시 한번 말하지만 multi thread 는 변수를 공유하는 구조하는 방식임) - 실패한다. 그래서 파이썬에서는 이걸 방지하기 위해서 GIL 을 씀.

반대로 multi processing 은 서로 메모리를 공유하는 구조가 아니기 때문에 가능.

결론적으로 GIL 때문에 one process, multi threads 구조인 Data Parallel 은 속도 향상 효과가 별로 없을 수밖에 없음. 반대로 multi process 를 사용하는 DDP 의 경우에는 파이썬으로도 속도 향상 가능

accuracy 가 높아지는데 loss 도 같이 증가한다?! over-fitting 의 증거

제이gnoej — Thu, 9 Feb 2023 22:45:24 +0900

http://www.jussihuotari.com/2018/01/17/why-loss-and-accuracy-metrics-conflict/

Why Loss and Accuracy Metrics Conflict? – Jussi Huotari's Web

A loss function is used to optimize a machine learning algorithm. An accuracy metric is used to measure the algorithm’s performance (accuracy) in an interpretable way. It goes against my intuition that these two sometimes conflict: loss is getting bett

www.jussihuotari.com

If the model becomes over-confident in its predictions, a single false prediction will increase the loss unproportionally compared to the (minor) drop in accuracy. An over-confident model can have good accuracy but bad loss. I’d assume over-confidence equals over-fitting.

1) overfit 된 모델에서 loss 가 높은 이유

cross-entropy error 는 계산 방법할 때 ground truth 의 positive label 만 반영된다 -1 * log(model prediction value)

* 참고 (https://gnoej671.tistory.com/26)

Over-confident 한 모델의경우 positive한 값에만 엄청 높은값을 주고, 나머지 class 에 대해서는 엄청 낮은 값을 주게 된다. 그렇기 때문에 ground truth 랑 model prediction class 가 다를 때, 그 class 에 너무 낮은 logit / softmax 값을 줄 거기 때문에 loss 가 확 뛰게 된다 (log0 는 infinity 값)

2) 반면 accuracy 상으로는 1개만 틀린거라서 그만큼 차이가 나지 않게 됨.

=> 그래서 over-confident 한 모델, 즉 over-fitting 된 모델의 의 경우 accuracy 와 loss 가 동시에 증가하는 양상을 보인다.

Calculus on Computational Graphs: Backpropagation

제이gnoej — Thu, 26 Jan 2023 21:42:44 +0900

https://colah.github.io/posts/2015-08-Backprop/

Calculus on Computational Graphs: Backpropagation -- colah's blog

Calculus on Computational Graphs: Backpropagation Posted on August 31, 2015  Introduction Backpropagation is the key algorithm that makes training deep models computationally tractable. For modern neural networks, it can make training with

colah.github.io

많은 deep learning framework 가 computational graphs 를 써서 backpropagation 을 하는데, 이 computational graphs 는 어떤 값이 들어가 있고, gradient 는 어떻게 계산되는지 상당히 잘 나와있음

Input normalization / Batch normalization / Layer normalization

제이gnoej — Thu, 26 Jan 2023 21:33:06 +0900

1. Input normalization 은 빠른 learning 을 위해 필요하다

x1= 1 에서 1000 까지의 value 를 가지고 x2 = 0..1 까지의 value 를 가진다고 할 때, 그럼 마찬가지로 각각 input feature에 상응하는 weight 도 다른 scale 을 갖게 됨. 결과적으로 cost function 이 왼쪽으로 한쪽은 굉장히 좁고 (elongated) , 한쪽은 넓은 모양이 되는데 이 경우에는 learning_ratio 를 아주 작게 해서 아주 많은 steps 을 밟아야지만 최적에 이르게 된다 (위에서 왼쪽 하단 이미지 참고) . 그렇게 때문에 input normalization 해서 두 input feature 의 scale 을 조정해주면 오른쪽 하단처럼 되고 결국 input normalization => fast learning 을 위해 필요한 게 되겠음.

그럼 normalizing 은 어떻게 하냐? 각 데이터 포인트에서 평균값을 빼고, deviation 값으로 나눠 줌

2. 1번과 같은 이유로 batch normalization (= normalizing activations) 이 faster learning 에 도움이 된다.

1번과 같은 이유로 3번째 layers 의 input 인 $a^ {[2]}$ 를 normalize 하면 $w^{[3]}$, $b^{[3]}$ 을 빨리 학습할 수 있다. 좀 더 구체적으로 말하면 activation 값이 아니라 activation 전의 값인 z (hidden unit value) 를 normalize 하는게 더 common practice 라고 함. 결국 각 layer 에서 z 값이 아니라 normalized 된 z 값을 사용하는 것이 batch normalization 임. 이걸 왜 "batch" normalization 이냐고 부르냐? 결국 normalization 값을 구하려면 mean 과 variance 를 구해야 되는데 그 평균과 편차를 batch (=mini-batch) 별로 구하기 때문.

3. 이미지에서는 batch normalization, NLP 에서는 layer normalization

결국 normalization 값을 구하기 위해서는 mean 과 variance 값을 구해야 되는데 batch normalization 에서는 하나의 batch 에 있는 모든 elemement (words in NLP) 에 대해 구하는 거고, layer normalization 은 across feature 로 구하는 거라고 함 ( 여기서부터는 이해가 좀 안 되네) 아무튼 transformer 에서는 layer normalization 이 들어간다고 함

26/07/28 좀 더 덧붙이자면

(4, 3) 인풋이 있다고 하자. batch size 가 4 개고 각 예시마다 3개의 feature 로 나타낼 수 있는거임. batch normalization 을 쓸 때는 3개 중 각 하나의 feature 에 대해서 aross batch 로 normalization 하는 거고, layer normalization 은 그게 아니라 하나의 인풋 내에서 각각의 feature 를 mean, variance 을 구해서 example 내에서 normalization 하는 거임.

왜 layer normalization 이냐면 그 layer 에 인풋으로 들어오는 모든 값 (하나의 example) 에 대해서 normalize 하기 때문이라고?

Claude

원래 layer norm을 처음 제안한 논문(Ba, Kiros, Hinton, 2016)에서도 정확히 이 표현을 써요: 하나의 training case에 대해, 그 layer로 들어오는 모든 뉴런들의 입력값 합을 가지고 평균/분산을 구한다고요. "배치의 다른 예제들"이 아니라 "같은 layer 안의 다른 뉴런들"이 기준이 되는 거죠.

그래서 batch norm에서 "batch"가 통계를 낼 때 보는 대상(다른 샘플들)을 가리키듯, layer norm에서 "layer"도 통계를 낼 때 보는 대상(그 layer의 모든 unit)을 가리키는 이름이에요.

Naive Bayes: Generative Learing Algorithm (↔ Discriminative)

제이gnoej — Fri, 28 Oct 2022 17:20:08 +0900

"해당 포스팅은 Andew Ng 의 Machine learning class - Naive Bayes Classifier 를 요약한 것입니다."

Discriminative model vs Generative model

Discriminative model 의 대표적인 예는 Logistic regression 이라고 함.

$P(y|x)$ 즉 $x$ features 가 주어졌을 때 바로 $P(y)$ 를 구하는 거임. 아래 그림처럼 Binary classification 에서 두 class 를 구분하는 초록색 선을 찾는게 목표임.

Generative Model 로도 classifier 를 만들 수 있는데 방법이 조금 다름.

일단 formal 하게 말하자면 Generative Model 은 $P(y|x)$ 를 직접 구하는 게 아니라 $P(x|y)P(y)$ 를 통해서 classification 을 수행함. 특히나 중요한 부분이 $P(x|y)$ 부분인데, 클래스가 주어졌을 때 x의 probabilty 를 구하도록 모델링 하는 것.

좀 더 쉽게 설명하자면, 각 클래스에 대해서 x 의 features 를 배운다고 생각하면 됨.

아래 그림처럼 빨간색 원이 malignant tumor 에 대해 모델이 배운 features 라고 하고, 파란색 원이 banign tumor 에 대한 features 라고 하자. 새로운 데이터가 주어졌을 때 (원 안의 점), 이 데이터가 내가 모델링한 빨간원의 데이터와 비슷하면 malignant 파란원이랑 비슷하면 banign. 어쨌든 각 클래스에 대해서 x features 를 배우는 모델인 거임.

Generative model 의 대표적인 예가 Naive Bayes 임.

둘의 차이를 좀 더 formal 하게 설명한 슬라이드

Naives bayes Classification 만들기

Bayes rules 에 의해서 generative model 이 배우는 $P(x|y)$ 를 가지고 classification 에 필요한 $P(y|x)$ 도출 가능함.

내가 헷갈렸던게 그래서 Naive Bayes 가 뭐? 이걸로 neural network 모델링을 할 수 있다는거야? 했는데 naive bayes 는 simple learning algorithm 이라고 함. 실제로 naive bayes classifier 만들 때 필요한 $P(x)$ 랑 $P(x|y)$ 를 배울 때 count 기준으로 함. 근데 Naive bayes 를 neural net 에 적용할 수는 있는데 그게 Naive Bayes Neural Net

Dependency parsing

제이gnoej — Wed, 8 Jun 2022 18:16:46 +0900

"해당 포스팅은 Dan jurafsky 교수의 Speech and Language Processing Chapter 14. Dependency Parsing 을 요약한 것이며 모든 이미지 자료로 책에서 인용한 것입니다"

해당 포스팅 전체에서 child node 가 단 한 개의 parent node 만 갖는다고 가정한다

1. Transition-based approach

Transition-based 는 Parser (=predictor / oracle) 이 sequence of operator (left arc operator, right arc operator, shift operator, reduce operator) 를 predict 하는 방식. Each step 기준으로 보면 current step 에서 right operator를 choose 하는 classifier 라고 볼 수 있지.

Configurations

이 때 Predictor 는 input 으로 configurations 를 받게 되는데 configuration 이라는 건 local state + set of relations (previous predictions) 만 가지고 위의 4개의 operator 중에 하나를 선택하는 거임. (실제로는 라벨까지 있기 때문에 총 operator 수는 대략 number of labels x operator 임). 왜 local state 란 buffer 의 top word, 그리고 stack 의 top 2 words 를 말함. 즉 buffer 와 stack 의 top tokens 만 보고 판단하기 때문에 local stae 라고 하는 거임. (즉 buffer 랑 stack 의 top 에 위치하지 않은 token 들을 prediction 할 때 고려하지 않음)

How to make training data

Predictor / * Oracle 는 결국 input 으로는 configurations 을 받고, output 으로는 해당 configurations 이 주어졌을 때 택해야 하는 operator 를 predict 해야 함. 그렇다면 each step 에 대해서 config - operator pair 가 training data 로 있어야 된다는 뜻인데 이건 어떻게 구하냐? 이건 사실 input - complete dependency parse 만 있으면 구할 수 있음.complete dependency parse라는건 결국 set of tuples: (child, head) 라고 할 수 있음 (edge label 까지 있으면 triplet 이겠지만 simplicity 를 위해서 없다고 가정) 이 set of tuples 과 input sentence 를 reference 로 갖고 있는 상태에서 내가 가지고 있는 parser 가 이 input sentence 를 parse 한다고 simulate 하는 거임. 우선 첫 step 로는 buffer -> stack 으로 shift action 으로 항상 시작하니까 그렇게 하고, stack 에 있는 2개의 단어가 (child, head) 페어에 해당한다면 right arc 나 left arc 를 해야한다는 걸 알 수 있으니까 right operator 를 선택할 수 있고 그럼 현재 step 에 대해서 configs 와 operator 가 준비된거임. 이걸 반복해서 end condition 에 다를때까지 하면 문장 하나에 대한 training data 를 갖게 되는거야

나는 여기서 oracle 을 그냥 transition classifier 라고 이해했는데 An incremental parser for AMR (Damonte et al., 2017) 보면 Oracle은 intput sentence - ref parser 가 주어졌을 때 training data 를 return 하는 rule-based 알고리즘임. 뭐지..? oracle 이 trainable classifier 인지 아니면 그냥 training data 를 generate 하기 위해서 쓰이는건지 모르겠음

Feature-based / Neural classifier

Classifier 가 각 step 에서 previous predictions (=set of relations), buffer top token, stack top 2 tokens 를 가지고 operator 를 classify 한다고 했음. 그럼 relations 랑 top tokens 를 classifer 에 input 으로 줄 때 어떻게 represent 해야할까에 대한 문제가 있음 (string 그대로 주냐? embedding 을 줄까? etc) Traditional 한 방법으로는 rule-based feature extraction 이 많이 쓰였음. 예를 들어서 stack, buffer top tokens 에 대해서는 word embedding 과 POS tag, lemmas 등을 사용해서 represent 할 수 있다.

feature-based 의 feature set (token 위치· feature 타입) ex) s1 => stack front token ; w = word embeeding => s1 · w  = word embedding for stack front token

2. Graph-based approach

Graph-based 는 그냥 edge scoring system + cleanup algorithm 이라고 생각하면 됨 (위와 마찬가지로 unlabeld edge 가정할 때).

우선 simple 하게 모든 token 을 꼭지점으로 놔두고 ROOT node 를 또 하나의 꼭지점으로 추가한다. 그리고 나서 모든 node 를 자신의 children 과 연결함

ROOT node: 자기 자신을 제외한 모든 node 를 potential children 이라고 가정(→ 화살표)
other nodes: 자기 자신과 ROOT 를 제외한 모든 node 를 potential children 이라고 가정

이렇게 모든 node 를 서로 연결해놓은 상태에서 각 edge 를 scoring 하는 게 graph-based 방식임. 그리고 이렇게 weighted edges 를 가지고 각 node 에 대해서 best parent edge 를 선택하고 그게 valid graph 면 parsing 완성. 그게 아니라 cycle 을 포함하고 있다면 (wight scaling + cycle colapse 을 통해서) cycle 을 없애고 다시 best tree 를 선택하는 게 전체 알고리즘이다.

A feature-based algorithm for assigning scores

graph-based 는 인풋으로 (head node, child node) 를 받고 이 둘의 edge 에 score 를 반환하는 것이다. 이 때 transition-based 의 feature-based 와 마찬가지로 각 node 를 어떻게 represent 하게 될지가 feature-based 의 핵심. predefined features (lemma, pos tagging, word embedding, distance between the head and the dependent, etc )를 가지고 rule-based 로 하면 feautre-based graph 가 되는 거고 그게 아니라 encodings, biaffine calculration, softmax 등으로 score 를 주면 neural algorithm 인거고...

A neural algorithm for assigning scores

인코더를 통해서 each token 에 대한 embedding 을 얻고, 각 token 을 different feed forward networks 를 통과시켜서 1) token embedding as a head 2) token embedding as a dependent 를 얻는다. 예를 들어서 (w1 (head representation) , w2 (dependant representation)) 이 2개를 biaffine algorithm 에 넣어서 w1 이 w2 의 head 인 score 를 계산. 모든 edge 에 대해서 이걸 계산한 다음에 each node 의 incoming edges 에 대해서 softmax 계산 하면 해당 node 의 모든 candiate parent 에 대한 probabilty score 를 얻을 수 있음. 여기까지 하고 나면 나머지는 위랑 똑같음. each node 마다 모든 incoming edge 중 maximum socre 를 주는것만 선택한 다음에 cycle 있으면 cleanup. 결국 각 node token 을 어떻게 represent 하고 score 를 어떻게 assign 하냐에 따라 neural algorihm