மேற்பார்வையிடப்பட்ட ஃபைன்-டியூனிங் (SFT)

வரையறை

மேற்பார்வையிடப்பட்ட நுணுக்கச் சரிசெய்தல் (SFT) என்பது ஒரு குறிப்பிட்ட பணிக்காக லேபிளிடப்பட்ட தரவில் முன் பயிற்சி பெற்ற மாதிரியைப் பயிற்றுவித்து, அதன் அளவுருக்களின் அனைத்தையும் அல்லது பகுதியையும் சரிசெய்வதாகும்.

நோக்கம்

மேம்பட்ட துல்லியத்துடன் சிறப்புப் பணிகளுக்கு ஏற்றவாறு பொது நோக்க மாதிரிகளை மாற்றியமைப்பதே இதன் நோக்கமாகும்.

முக்கியத்துவம்

• NLP மற்றும் பார்வை பணிகளில் முக்கிய நுட்பம்.
• உயர்தர லேபிளிடப்பட்ட தரவு தேவை.
• சிறிய தரவுத்தொகுப்புகளுடன் அதிகமாகப் பொருத்துவதால் ஏற்படும் அபாயங்கள்.
• பெரும்பாலும் RLHF க்கு முன்னோடி.

எப்படி இது செயல்படுகிறது

1. முன் பயிற்சி பெற்ற மாதிரியைத் தேர்ந்தெடுக்கவும்.
2. இலக்கு பணிக்காக பெயரிடப்பட்ட தரவைச் சேகரிக்கவும்.
3. மேற்பார்வையிடப்பட்ட கற்றலுடன் மாதிரியைப் பயிற்றுவிக்கவும்.
4. நிறுத்தி வைக்கப்பட்ட சோதனைத் தொகுப்பில் சரிபார்க்கவும்.
5. செயல்திறனை வரிசைப்படுத்தி கண்காணிக்கவும்.

உதாரணங்கள் (உண்மையான உலகம்)

• வாடிக்கையாளர் சேவை உரையாடல்களில் GPT சிறப்பாகச் சரிசெய்யப்பட்டுள்ளது.
• பெயரிடப்பட்ட நிறுவன அங்கீகாரத்திற்காக BERT சிறப்பாக வடிவமைக்கப்பட்டுள்ளது.
• மருத்துவ பட வகைப்பாட்டில் பார்வை மின்மாற்றிகள் நன்றாகச் சரிசெய்யப்பட்டுள்ளன.

குறிப்புகள் / மேலும் படித்தல்

• டெவ்லின் மற்றும் பலர். “பெர்ட்: ஆழமான இருதிசை மின்மாற்றிகளின் முன் பயிற்சி.” NAACL 2019.
• கட்டிப்பிடிக்கும் முக மின்மாற்றிகள் ஆவணங்கள்.
• ஸ்டான்போர்ட் CS224N: ஆழ்ந்த கற்றலுடன் NLP.
• SFT என்றால் என்ன? அது ஏன் முக்கியமானது?