Skip to main content
Link
Menu
Expand
(external link)
Document
Search
Copy
Copied
Keras 3
Keras 3
Keras에 대하여
시작하기
엔지니어를 위한 Keras 소개
Keras 3 벤치마크
Keras 에코시스템
FAQ
개발자 가이드
함수형 API
Sequential 모델
서브클래싱을 통해 새로운 레이어와 모델 만들기
빌트인 메서드를 사용한 트레이닝 및 평가
JAX에서 `fit()`의 동작을 커스터마이즈하기
TensorFlow에서 `fit()`의 동작을 커스터마이즈하기
PyTorch에서 `fit()`의 동작을 커스터마이즈하기
JAX에서 처음부터 트레이닝 루프 작성하기
TensorFlow에서 처음부터 트레이닝 루프 작성하기
PyTorch에서 처음부터 트레이닝 루프 작성하기
모델 저장, 직렬화 및 export
저장 및 직렬화 커스터마이징
커스텀 콜백 작성하기
전이 학습 및 미세 조정
JAX를 사용한 멀티 GPU 분산 트레이닝
TensorFlow를 사용한 멀티 GPU 분산 트레이닝
PyTorch를 사용한 멀티 GPU 분산 트레이닝
케라스 3에서의 분산 트레이닝
Keras 2 코드를 멀티 백엔드 Keras 3로 마이그레이션
KerasTuner
KerasTuner 시작하기
분산된 하이퍼파라미터 튜닝
커스텀 트레이닝 루프에서 하이퍼파라미터 튜닝
하이퍼파라미터 튜닝 과정 시각화
KerasTuner에서 실패한 시도 처리하기
검색 공간 맞춤 설정
KerasCV
KerasCV로 객체 감지
KerasCV로 분류하기
KerasCV로 CutMix, MixUp 및 RandAugment 이미지 보강
KerasCV에서 Stable Diffusion을 사용한 고성능 이미지 생성
BaseImageAugmentationLayer를 사용한 커스텀 이미지 보강
KerasCV로 시맨틱 세그멘테이션
KerasCV의 Segment Anything
KerasNLP
KerasNLP 시작하기
KerasNLP로 처음부터 트랜스포머 사전 트레이닝
KerasNLP로 모델 업로드
Keras 3 API 문서
Models API
The Model class
The Sequential class
Model training APIs
저장 & 직렬화
Whole model saving & loading
Weights-only saving & loading
Model config serialization
Model export for inference
Serialization utilities
Keras 레이어 API
The base Layer class
Layer activation
Layer weight initializers
Layer weight regularizers
Layer weight constraints
코어 레이어
Input object
InputSpec object
Dense layer
EinsumDense layer
Activation layer
Embedding layer
Masking layer
Lambda 레이어
Identity layer
컨볼루션 레이어
Conv1D layer
Conv2D layer
Conv3D layer
SeparableConv1D layer
SeparableConv2D layer
DepthwiseConv1D layer
DepthwiseConv2D layer
Conv1DTranspose layer
Conv2DTranspose 레이어
Conv3DTranspose layer
풀링 레이어
MaxPooling1D layer
MaxPooling2D layer
MaxPooling3D layer
AveragePooling1D layer
AveragePooling2D layer
AveragePooling3D layer
GlobalMaxPooling1D layer
GlobalMaxPooling2D layer
GlobalMaxPooling3D layer
GlobalAveragePooling1D layer
GlobalAveragePooling2D layer
GlobalAveragePooling3D layer
Recurrent 레이어
LSTM layer
LSTM cell layer
GRU layer
GRU Cell layer
SimpleRNN layer
TimeDistributed layer
Bidirectional layer
ConvLSTM1D layer
ConvLSTM2D layer
ConvLSTM3D layer
Base RNN layer
Simple RNN cell layer
Stacked RNN cell layer
전처리 레이어
텍스트 전처리
TextVectorization layer
수치적 특성 전처리 레이어
Normalization layer
Spectral Normalization layer
Discretization layer
카테고리 특성 전처리 레이어
CategoryEncoding layer
Hashing layer
HashedCrossing layer
StringLookup layer
IntegerLookup layer
이미지 전처리 레이어
Resizing layer
Rescaling layer
CenterCrop layer
이미지 보강 레이어
RandomCrop layer
RandomFlip layer
RandomTranslation layer
RandomRotation layer
RandomZoom layer
RandomContrast layer
RandomBrightness layer
Normalization 레이어
BatchNormalization 레이어
LayerNormalization layer
UnitNormalization layer
GroupNormalization layer
Regularization 레이어
Dropout layer
SpatialDropout1D layer
SpatialDropout2D layer
SpatialDropout3D layer
GaussianDropout layer
AlphaDropout layer
GaussianNoise layer
ActivityRegularization layer
Attention 레이어
GroupQueryAttention
MultiHeadAttention 레이어
Attention layer
AdditiveAttention layer
Reshaping 레이어
Reshape layer
Flatten layer
RepeatVector layer
Permute layer
Cropping1D layer
Cropping2D layer
Cropping3D layer
UpSampling1D layer
UpSampling2D 레이어
UpSampling3D layer
ZeroPadding1D layer
ZeroPadding2D layer
ZeroPadding3D layer
Merging 레이어
Concatenate layer
Average layer
Maximum layer
Minimum layer
Add layer
Subtract layer
Multiply layer
Dot layer
Activation 레이어
ReLU layer
Softmax layer
LeakyReLU layer
PReLU layer
ELU layer
백엔드별 레이어
TorchModuleWrapper layer
Tensorflow SavedModel layer
Callbacks API
Base Callback class
ModelCheckpoint
BackupAndRestore
TensorBoard
EarlyStopping
LearningRateScheduler
ReduceLROnPlateau
RemoteMonitor
LambdaCallback
TerminateOnNaN
CSVLogger
ProgbarLogger
SwapEMAWeights
Ops API
NumPy ops
NN ops
Linear algebra ops
Core ops
Image ops
FFT ops
옵티마이저
SGD
RMSprop
Adam
AdamW
Adadelta
Adagrad
Adamax
Adafactor
Nadam
Ftrl
Lion
Loss Scale Optimizer
학습률 스케쥴 API
LearningRateSchedule
ExponentialDecay
PiecewiseConstantDecay
PolynomialDecay
InverseTimeDecay
CosineDecay
CosineDecayRestarts
Metrics
Base Metric class
Accuracy metrics
Probabilistic metrics
Regression metrics
Classification metrics based on True/False positives & negatives
Image segmentation metrics
Hinge metrics for "maximum-margin" classification
Metric wrappers and reduction metrics
Losses
Probabilistic losses
회귀 손실
Hinge losses for "maximum-margin" classification
데이터 로딩
Image data loading
Timeseries data loading
Text data loading
Audio data loading
빌트인 작은 데이터세트
MNIST digits classification dataset
CIFAR10 small images classification dataset
CIFAR100 small images classification dataset
IMDB movie review sentiment classification dataset
Reuters newswire classification dataset
Fashion MNIST dataset, an alternative to MNIST
California Housing price regression dataset
Keras Applications
Xception
EfficientNet B0 to B7
EfficientNetV2 B0 to B3 and S, M, L
ConvNeXt Tiny, Small, Base, Large, XLarge
VGG16 and VGG19
ResNet and ResNetV2
MobileNet, MobileNetV2, and MobileNetV3
DenseNet
NasNetLarge and NasNetMobile
InceptionV3
InceptionResNetV2
Mixed precision
Mixed precision policy API
다중 장치 배포
LayoutMap API
DataParallel API
ModelParallel API
Distribution utilities
RNG API
SeedGenerator class
Random operations
유틸리티
Model plotting utilities
Structured data preprocessing utilities
Tensor utilities
Python & NumPy utilities
Keras configuration utilities
KerasTuner
HyperParameters
Tuners
The base Tuner class
Objective class
RandomSearch Tuner
GridSearch Tuner
BayesianOptimization Tuner
Hyperband Tuner
Sklearn Tuner
Oracles
The base Oracle class
@synchronized decorator
RandomSearch Oracle
GridSearch Oracle
BayesianOptimization Oracle
Hyperband Oracle
HyperModels
The base HyperModel class
HyperEfficientNet
HyperImageAugment
HyperResNet
HyperXception
Errors
KerasCV
KerasCV 레이어
Augmentation 레이어
AutoContrast layer
AugMix layer
ChannelShuffle layer
CutMix layer
FourierMix layer
GridMask layer
JitteredResize layer
MixUp layer
RandAugment layer
RandomAugmentationPipeline layer
RandomChannelShift layer
RandomColorDegeneration layer
RandomCutout layer
RandomHue layer
RandomSaturation layer
RandomSharpness layer
RandomShear layer
Solarization layer
KerasCV 전처리 레이어
Resizing layer
Grayscale layer
Equalization layer
Posterization layer
KerasCV Regularization 레이어
DropBlock2D layer
DropPath layer
SqueezeAndExcite2D layer
StochasticDepth layer
KerasCV 모델
Backbones
ResNetV1 backbones
ResNetV2 backbones
YOLOV8 backbones
MobileNetV3 backbones
EfficientNetV2 models
Tasks
StableDiffusion image-generation model
The RetinaNet model
The ImageClassifier model
The YOLOV8Detector model
경계 상자 형식과 유틸리티
Bounding box 형식
Bounding box 유틸리티
Convert bounding box formats
Compute intersection over union of bounding boxes
Clip bounding boxes to be within the bounds of provided images
Losses
Binary Penalty Reduced Focal CrossEntropy
CIoU Loss
Focal Loss
GIoU Loss
IoU Loss
SimCLR Loss
SmoothL1Loss Loss
KerasNLP
모델
Albert
AlbertTokenizer
AlbertPreprocessor layer
AlbertBackbone model
AlbertClassifier model
AlbertMaskedLM model
AlbertMaskedLMPreprocessor layer
Bart
BertTokenizer
BertPreprocessor layer
BertBackbone model
BartSeq2SeqLM model
BartSeq2SeqLMPreprocessor layer
Bert
BertTokenizer
BertPreprocessor layer
BertBackbone model
BertClassifier model
BertMaskedLM model
BertMaskedLMPreprocessor layer
DebertaV3
DebertaV3Tokenizer
DebertaV3Preprocessor layer
DebertaV3Backbone model
DebertaV3Classifier model
DebertaV3MaskedLM model
DebertaV3MaskedLMPreprocessor layer
DistilBERT
DistilBertTokenizer
DistilBertPreprocessor layer
DistilBertBackbone model
DistilBertClassifier model
DistilBertMaskedLM model
DistilBertMaskedLMPreprocessor layer
Gemma
GemmaTokenizer
GemmaPreprocessor layer
GemmaBackbone model
GemmaCausalLM model
GemmaCausalLMPreprocessor layer
GPT2
GPT2Tokenizer
GPT2Preprocessor
GPT2Backbone model
GPT2CausalLM model
GPT2CausalLMPreprocessor layer
FNet
FNetTokenizer
FNetPreprocessor layer
FNetBackbone model
FNetClassifier model
FNetMaskedLM model
FNetMaskedLMPreprocessor layer
Mistral
MistralTokenizer
MistralPreprocessor layer
MistralBackbone model
MistralCausalLM model
MistralCausalLMPreprocessor layer
OPT
OPTTokenizer
OPTPreprocessor layer
OPTBackbone model
OPTCausalLM model
OPTCausalLMPreprocessor layer
RoBERTa
RobertaTokenizer
RobertaPreprocessor layer
RobertaBackbone model
RobertaClassifier model
RobertaMaskedLM model
RobertaMaskedLMPreprocessor layer
XLM-RoBERTa
XLMRobertaTokenizer
XLMRobertaPreprocessor layer
XLMRobertaBackbone model
XLMRobertaClassifier model
XLMRobertaMaskedLM model
XLMRobertaMaskedLMPreprocessor layer
Tokenizers
Tokenizer base class
WordPieceTokenizer
SentencePieceTokenizer
BytePairTokenizer
ByteTokenizer
UnicodeCodepointTokenizer
compute_word_piece_vocabulary function
compute_sentence_piece_proto function
Preprocessing 레이어
StartEndPacker layer
MultiSegmentPacker layer
RandomSwap layer
RandomDeletion layer
MaskedLMMaskGenerator layer
Modeling 레이어
TransformerEncoder layer
TransformerDecoder layer
FNetEncoder layer
PositionEmbedding layer
RotaryEmbedding layer
SinePositionEncoding layer
ReversibleEmbedding layer
TokenAndPositionEmbedding layer
AlibiBias layer
MaskedLMHead layer
CachedMultiHeadAttention layer
Samplers
Sampler base class
BeamSampler
ContrastiveSampler
GreedySampler
RandomSampler
TopKSampler
TopPSampler
Metrics
Perplexity metric
RougeL metric
RougeN metric
Bleu metric
EditDistance metric
코드 예제
컴퓨터 비전
처음부터 이미지 분류
간단한 MNIST convnet
EfficientNet으로 하는 미세 조정을 통한 이미지 분류
비전 트랜스포머로 이미지 분류
어텐션 기반 심층 다중 인스턴스 학습(MIL)을 사용한 분류
최신 MLP 모델을 사용한 이미지 분류
MobileViT - 이미지 분류를 위한 모바일 친화적인 트랜스포머 기반 모델
TPU에서 폐렴 분류
컴팩트 컨볼루션 트랜스포머
ConvMixer로 이미지 분류
EANet(외부 어텐션 트랜스포머)을 사용한 이미지 분류
인볼루션 신경망
Perceiver로 이미지 분류
Reptile을 사용한 퓨샷 학습
SimCLR을 사용한 대조 사전 트레이닝을 사용한 반지도 이미지 분류
Swin 트랜스포머를 사용한 이미지 분류
소규모 데이터 세트에 대해 비전 트랜스포머 트레이닝
어텐션이 없는 비전 트랜스포머
글로벌 컨텍스트 비전 트랜스포머를 이용한 이미지 분류
BigTransfer(BiT)를 사용한 이미지 분류
U-Net과 유사한 아키텍처를 사용한 이미지 세그멘테이션
DeepLabV3+를 사용한 다중 클래스 시맨틱 세그멘테이션
BASNet을 사용한 매우 정확한 경계 세그멘테이션
Composable 완전 컨볼루션 네트워크를 사용한 이미지 세그멘테이션
RetinaNet을 이용한 객체 감지
전이 학습을 통한 키포인트 감지
비전 트랜스포머를 사용한 객체 감지
CT 스캔의 3D 이미지 분류
단안 깊이 추정
NeRF를 사용한 3D 체적 렌더링
PointNet을 사용한 포인트 클라우드 세그멘테이션
PointNet을 사용한 포인트 클라우드 분류
캡챠 읽기를 위한 OCR 모델
손글씨 인식
이미지 노이즈 제거를 위한 컨볼루셔널 오토인코더
MIRNet을 사용한 저조도 이미지 향상
Efficient Sub-Pixel CNN을 사용한 이미지 초해상도
단일 이미지 초해상도를 위한 향상된 깊은 Residual 네트워크
저조도 이미지 향상을 위한 Zero-DCE
이미지 분류를 위한 CutMix 데이터 보강
이미지 분류를 위한 MixUp 보강
견고성 향상을 위한 이미지 분류를 위한 RandAugment
이미지 캡션
듀얼 인코더를 이용한 자연어 이미지 검색
Convnets이 학습한 내용 시각화
통합 그래디언트를 통한 모델 해석 가능성
비전 트랜스포머 표현 조사
Grad-CAM 클래스 활성화 시각화
중복에 가까운 이미지 검색
시맨틱 이미지 클러스터링
대비 손실이 있는 Siamese 네트워크를 사용한 이미지 유사도 추정
triplet 손실이 있는 Siamese 네트워크를 사용한 이미지 유사도 추정
이미지 유사도 검색을 위한 메트릭 학습
TensorFlow Similarity를 사용한 이미지 유사도 검색을 위한 메트릭 학습
NNCLR을 사용한 자기 지도 대조 학습
CNN-RNN 아키텍처를 사용한 비디오 분류
컨볼루션 LSTM을 사용한 다음 프레임 비디오 예측
트랜스포머를 사용한 비디오 분류
비디오 비전 트랜스포머
트레이닝 성능 향상을 위한 그래디언트 중앙화
비전 트랜스포머에서 토큰화 학습하기
지식 증류
FixRes - 트레이닝-테스트 해상도 불일치 수정
LayerScale을 사용한 클래스 어텐션 이미지 트랜스포머
통합 어텐션으로 컨볼루션 네트워크 강화
컴퓨터 비전에서 리사이즈 학습
AdaMatch를 통한 반지도(Semi-supervision) 및 도메인 적응
Contrastive SSL을 위한 Barlow Twins
지도를 통한 일관성 트레이닝
증류식 비전 트랜스포머
초점 변조 - 셀프 어텐션을 대체하는
이미지 분류를 위한 Forward-Forward 알고리즘 사용
자동 인코더를 사용한 마스크 이미지 모델링
🤗 트랜스포머로 무엇이든 모델 세그먼트
SegFormer와 Hugging Face 트랜스포머를 사용한 시맨틱 세그멘테이션
SimSiam을 이용한 자기 지도 대조 학습
지도 대조 학습
Recurrence와 트랜스포머의 만남
YOLOV8 및 KerasCV를 통한 효율적인 객체 감지
자연어 처리
처음부터 텍스트 분류
Active 학습을 사용한 분류 리뷰
FNet을 사용한 텍스트 분류
대규모 다중 레이블 텍스트 분류
트랜스포머로 텍스트 분류
스위치 트랜스포머로 텍스트 분류
의사 결정 포레스트와 사전 트레이닝된 임베딩을 사용한 텍스트 분류
사전 트레이닝된 단어 임베딩 사용
IMDB에 대한 양방향 LSTM
KerasNLP 및 tf.distribute를 사용한 데이터 병렬 트레이닝
KerasNLP를 사용한 영어-스페인어 번역
시퀀스-to-시퀀스 트랜스포머를 사용한 영어-스페인어 번역
문자 레벨 recurrent 시퀀스-to-시퀀스 모델
멀티모달 Entailment
트랜스포머를 사용한 명명된 엔티티 인식
BERT를 사용한 텍스트 추출
숫자 덧셈을 수행하기 위한 시퀀스-to-시퀀스 학습
KerasNLP를 사용한 시맨틱 유사성
BERT를 사용한 시맨틱 유사성
Siamese RoBERTa 네트워크를 사용한 문장 임베딩
BERT를 사용한 엔드투엔드 마스크 언어 모델링
Hugging Face 트랜스포머로 BERT 사전 트레이닝하기
LoRA가 있는 GPT-2의 효율적인 파라미터 미세 조정
BART를 사용한 추상적 텍스트 요약
🤗 트랜스포머 및 TPU를 사용하여 처음부터 언어 모델 트레이닝하기
전이 학습으로 MultipleChoice 태스크
Hugging Face 트랜스포머로 질문 답변하기
Hugging Face 트랜스포머를 사용한 추상적 요약
구조화된 데이터
FeatureSpace를 사용한 구조화된 데이터 분류
불균형 분류 - 신용 카드 사기 탐지
처음부터 구조화된 데이터 분류
와이드, 딥, 크로스 네트워크를 통한 구조화된 데이터 학습
Gated Residual 및 변수 선택 네트워크를 사용한 분류
TensorFlow 의사 결정 포리스트를 사용한 분류
신경 의사 결정 포레스트를 사용한 분류
TabTransformer를 사용한 구조화된 데이터 학습
영화 추천을 위한 Collaborative 필터링
트랜스포머 기반 추천 시스템
FeatureSpace 고급 사용 사례
타임시리즈
처음부터 시계열 분류
트랜스포머 모델을 사용한 시계열 분류
식별을 위한 뇌파 신호 분류
결제 카드 사기 탐지를 위한 이벤트 분류
자동 인코더를 사용한 시계열 이상 탐지
그래프 신경망과 LSTM을 사용한 트래픽 예측
날씨 예측을 위한 시계열 예측
생성형 딥러닝
노이즈 제거 확산 암시적 모델
Stable Diffusion으로 잠재된 공간 걷기
DreamBooth
노이즈 제거 확산 확률론적 모델
Textual Inversion을 통해 StableDiffusion의 새로운 개념 가르치기
Stable Diffusion 미세 조정
Variational AutoEncoder
얼굴 이미지 생성을 위한 DCGAN
WGAN-GP 재정의 `Model.train_step`
조건부 GAN
CycleGAN
적응형 판별자 보강을 통한 데이터 효율적 GAN
Deep Dream
조건부 이미지 생성을 위한 GauGAN
PixelCNN
StyleGAN으로 얼굴 이미지 생성
벡터화된 변형 자동 인코더
신경 스타일 전송
AdaIN을 사용한 신경 스타일 전송
KerasNLP를 사용한 GPT2 텍스트 생성
KerasNLP로 처음부터 GPT 텍스트 생성하기
미니어처 GPT로 텍스트 생성
LSTM을 사용한 문자 레벨 텍스트 생성
FNet을 사용한 텍스트 생성
VAE를 사용한 약물 분자 생성
작은 분자 그래프 생성을 위한 R-GCN이 포함된 WGAN-GP
Real NVP를 사용한 밀도 추정
오디오 데이터
트랜스포머를 통한 자동 음성 인식
CTC를 사용한 자동 음성 인식
특징 매칭을 사용한 MelGAN 기반 스펙트로그램 반전
화자 인식
전이 학습을 사용한 영어 화자 억양 인식
Hugging Face 트랜스포머를 사용한 오디오 분류
강화 학습
Actor Critic 방법
Proximal 정책 최적화
아타리 브레이크아웃을 위한 심층 Q-러닝
심층 결정론적 정책 그래디언트(DDPG)
그래프 데이터
노드 분류를 위한 그래프 어텐션 네트워크(GAT)
그래프 신경망을 사용한 노드 분류
분자 특성 예측을 위한 메시지 전달 신경망(MPNN)
node2vec을 사용한 그래프 표현 학습
빠른 Keras 레시피
TFServing으로 TensorFlow 모델 서비스하기
Keras 디버깅 팁
Conv2D 레이어의 컨볼루션 연산 커스터마이즈하기
트레이너 패턴
엔드포인트 레이어 패턴
Keras 모델의 재현성
TensorFlow NumPy로 Keras 모델 작성하기
간단한 커스텀 레이어 예시 - Antirectifier
함수형 서브클래싱을 사용하여 광범위한 배포를 위한 Keras 모델 패키징
모델 트레이닝에 필요한 샘플 크기 추정
추천 시스템을 위한 메모리 효율적인 임베딩
TFRecord 만들기
Mixture Density 네트워크로 비함수 매핑 근사화
확률론적 베이지안 신경망
지식 증류 레시피
eras 콜백에서 scikit-learn 메트릭 평가 및 내보내기
TFRecord 파일에서 Keras 모델을 트레이닝하는 방법
KerasTuner - 하이퍼파라미터 튜닝
KerasCV - 컴퓨터 비전 워크플로우
KerasNLP - 자연어 워크플로우
keras-doc-kr 저장소
Keras 3 API 문서
KerasNLP
모델
XLM-RoBERTa
XLMRobertaMaskedLM model
원본 링크 :
https://keras.io/api/keras_nlp/models/xlm_roberta/xlm_roberta_masked_lm/
최종 수정일 : 2024-03-29
XLMRobertaMaskedLM model
목차