Foundation-Model Surrogates Enable Data-Efficient Active Learning for Materials Discovery

같이 보면 좋은 논문

기반 연구

T-SciQ: Teaching multimodal chain-of-thought reasoning via mixed large language model signals for science question answering

346 'Foundation-Model Surrogates' 논문은 기초 모델의 전이 및 설명력을 중시하는 과학 문제 적용 사례를 소개하여, 785의 T-SciQ 프레임워크가 다루는 연쇄적 사고와 지식 이전 맥락을 뒷받침합니다.

기반 연구

Leveraging biomolecule and natural language through multi-modal learning: A survey

346(FM Surrogates)은 분자/생물 데이터에서 파운데이션 모델의 개념과 기초 문제를, 487의 다중모달 생물분자-텍스트 통합 논의의 이론으로 삼을 수 있습니다.

기반 연구

A sober look at llms for material discovery: Are they actually good for bayesian optimization over molecules? arXiv preprint arXiv:2402.05015, 2024.

024의 원칙적인 LLM 베이지안 불확실성 정량화 평가는 346에서 논의된 foundation model 기반 소재 액티브 러닝의 성능 비교와 이론적 기반을 공유합니다.

기반 연구

MatPilot: an LLM-enabled AI Materials Scientist under the Framework of Human-Machine Collaboration

346번 논문은 데이터 효율적 능동학습과 파운데이션 모델 개념을 소개해, 522번의 신소재 발견 LLM 에이전트가 활용할 수 있는 이론적 기반을 제공한다.

기반 연구

Deep active learning based experimental design to uncover synergistic genetic interactions for host targeted therapeutics

딥 액티브 러닝 기반의 실험 설계 방법론이 소재 발견과 데이터 효율성 증진의 이론적 기초를 제공합니다.

기반 연구

Enhancing chemical reaction and retrosynthesis prediction with large language model and dual-task learning

346 논문은 파운데이션 모델을 활용한 데이터 효율적 능동 학습법을 제시해, 316 논문의 화학 반응 예측에 LLM 적용 전략의 기반 이론이 됩니다.

기반 연구

LLM × MapReduce-V2: Entropy-Driven Convolutional Test-Time Scaling for Generating Long-Form Articles from Extremely Long Resources

346번 논문은 파운데이션 모델 기반의 데이터 효율적 활성학습을 다루며, 긴 입력 활용 및 최적화 아이디어와 연결됩니다.

기반 연구

Confidence in Large Language Model Evaluation: A Bayesian Approach to Limited-Sample Challenges

346은 파운데이션 모델 기반의 데이터 효율적 활성 학습 벤치마크 및 베이지안 평가를 다뤄, 237의 베이지안 기반 성능 평가 방식과 직접적으로 연결된다.

기반 연구

PerTurboAgent: A Self-Planning Agent for Boosting Sequential Perturb-seq Experiments

액티브 러닝과 foundation model을 융합한 방법론적 기반을 제공한다.

기반 연구

RAG-Enhanced Collaborative LLM Agents for Drug Discovery

foundation model과 search를 결합한 활성 정보 탐색 방법론으로 RAG-기반 신약발견의 기본 원리를 설명한다.

기반 연구

Foundation models for materials discovery – current state and future directions

Foundation models for materials discovery 논문은 소재 발견 분야에서 기존 ML 모델의 한계를 이론적으로 개관하며, Foundation-Model Surrogates의 기초 논리와 직접 연결됩니다.

기반 연구

Agentic AI for Scientific Discovery: A Survey of Progress, Challenges, and Future Directions

346번 논문은 데이터 효율과 능동적 학습을 위한 파운데이션 모델 활용 사례를 다루어, 064번 논문에서 언급된 도전과제(효율성/검증) 해결의 이론적 토대를 제공한다.

기반 연구

Generative AI and the Foundation Model Era: A Comprehensive Review

생성형 AI 및 파운데이션 모델의 이론적·기술적 토대를 종합적으로 다루고 있으므로, 346번 논문의 FM 기반 능동학습 응용에 폭넓은 시각을 제공한다.

기반 연구

Modeling gene regulatory perturbations via deep learning from high-throughput reporter assays

346 논문은 데이터 효율적 활성학습 기반 과학적 실험 설계 방법을 제안하여, 3171에서 조절 섭동 예측에의 적용에 이론적 뒷받침이 됩니다.

기반 연구

GMT: A Geometric Multigrid Transformer Solver for Microstructure Homogenization

Foundation-Model Surrogates Enable Data-Efficient Active Learning for Scientific Discovery는 지오메트릭 신경망 구조와 데이터 효율적 surrogate 모델의 견고한 이론 기반을 제공한다.

기반 연구

Parameter-Efficient Fine-Tuning of Machine-Learning Interatomic Potentials for Phonon and Thermal Properties

Foundation-Model Surrogates 논문은 효율적 파인튜닝·전이학습 개념을 이론적으로 설명해 Equitrain의 최소 데이터 세팅의 근거가 된다.

기반 연구

A New Paradigm for Computational Chemistry

346 논문은 foundation model 기반으로 데이터 효율적 활성 학습과 물리 통합의 이론적 근거를 제공하여, 2995의 새로운 계산화학 프레임워크의 기반이 됩니다.

기반 연구

Pretrained Model Representations as Acquisition Signals for Active Learning of MLIPs

데이터 효율적 능동학습 프레임워크들을 종합적으로 검토하여 3214의 acquisition signal 선택에 이론적 토대를 제공한다.

다른 접근

LLM and Simulation as Bilevel Optimizers: A New Paradigm to Advance Physical Scientific Discovery

346 논문은 파운데이션-모델 서로게이트를 통한 능동적 실험 설계 프레임을 제안하여, 497의 LLM+시뮬레이션 이단계 최적화의 대안적 연구 흐름을 제공한다.

다른 접근

Towards reasoning era: A survey of long chain-of-thought for reasoning large language models

346번 논문은 과학적 문제 해결을 위한 파운데이션 모델 서브셋 적용을 다루어, chain-of-thought 기반 reasoning의 확장 또는 대조적 방향성을 확인할 수 있습니다.

다른 접근

Intelligent experiments through real-time ai: Fast data processing and autonomous detector control for sphenix and future eic detectors

고속 실험제어 및 데이터처리에 FM 기반 AL 방법이 적용될 수 있으며, 트랜스포머와 GNN 기반의 소재/물리 실험 자동화라는 공통 관심사를 가진다.

다른 접근

Reward-Guided Iterative Refinement in Diffusion Models at Test-Time with Applications to Protein and DNA Design

둘 다 능동 학습 및 설계 공간 최적화를 강조하지만, 682는 reward 기반 diffusion refinement, 346은 foundation model을 활용한 data-efficient AL에 초점이 다르다.

다른 접근

Foundation models for materials discovery – current state and future directions

Foundation-Model Surrogates 논문은 재료 과학에서 파운데이션 모델을 대리 모델로 활용한 다른 접근법을 제시합니다.

다른 접근

MatterChat: A Multi-Modal LLM for Material Science

둘 다 소재/재료과학에서 foundation model을 도입하지만, Foundation-Model Surrogates 논문은 능동 탐색에, MatterChat은 구조-인식 멀티모달 예측에 초점을 둔 접근이다.

다른 접근

Clever Materials: When Models Identify Good Materials for the Wrong Reasons

데이터 효율적 활성 학습과 파운데이션 모델의 일반화에 초점을 맞춘 논문으로, MOF 분야에서 발생하는 지능적 오버피팅 문제와의 상관성을 비교할 수 있습니다.

다른 접근

FlashSchNet: Fast and Accurate Coarse-Grained Neural Network Molecular Dynamics

파운데이션 모델 서퍼게이트 기반의 액티브 러닝 최적화는, Coarse-Grained Neural MD의 데이터 효율화와 대조됩니다.

다른 접근

Incorporating Continuous Dependence Qualifies Physics-Informed Neural Networks for Operator Learning

둘 다 물리 및 재료 과학에서 효율적 데이터 활용과 연산자 학습을 다루지만, 접근 방식과 모델이 다릅니다.

다른 접근

Machine-Learned Interatomic Potentials for Predicting Physicochemical Properties of Molten Metal-Salt Systems for Calcium Electrolysis

두 연구 모두 새로운 ML 기반 원자간 포텐셜 및 능동 학습 방법의 소재·화학 예측에 적용하지만, 하나는 Foundation Model 기반 AL, 다른 하나는 MTP 포텐셜에 집중한다.

다른 접근

From GPU Engineering to Scientific Discovery: Parallelism Techniques for Large Language Models

346 논문은 파운데이션 모델을 활용한 데이터 효율적 액티브 러닝을 다루고 있어, 354가 제시한 대규모 LLM 훈련 병렬화와 다른 접근법을 제시합니다.

다른 접근

Bridging the Gap Between Climate Science and Machine Learning in Climate Model Emulation

파운데이션 모델 기반 대기/기후 활성학습, ML 에뮬레이터 설계의 다른 접근을 비교할 수 있음.

다른 접근

Exascale Multi-Task Graph Foundation Models for Imbalanced, Multi-Fidelity Atomistic Data

346번 논문은 파운데이션 모델 서러깃을 통한 데이터 효율적 능동 학습을 제시해, 3092 논문의 초대규모 데이터 및 파운데이션 모델 활용성과 대조적 관점에서 유익합니다.

다른 접근

Knowing when to trust machine-learned interatomic potentials

Foundation-model surrogate를 활용해 불확실성 및 신뢰도 평가를 정량화하는 대조적 접근을 취한다.

다른 접근

Meta-LegNet: A Transferable and Interpretable Framework for Surface Adsorption Prediction via Self-Defined Adsorption-Environment Learning

재료과학 AI 신뢰성 평가를 데이터-효율 관점에서 논하며, Meta-LegNet과 비교해 전이 가능성 및 해석성에 초점을 둔다.

후속 연구

HuggingGPT: Solving AI Tasks with ChatGPT and its Friends in Hugging Face

Foundation-Model Surrogates Enable Data-Efficient Active Learning(346)은 다양한 모델 통합 기법을 실험적 과학 문제에 적용하며, 412의 멀티모달 에이전트 개념을 과학 발견에 확장한다.

후속 연구

Interpretable and generative deep learning models explicate phase separating intrinsically disordered motifs

Foundation 모델 서로게이트에 관한 논문으로, 복잡한 단백질-리간드 상호작용 예측을 위한 데이터 효율적 접근법을 제시한다.

후속 연구

Representative, Informative, and De-Amplifying: Requirements for Robust Bayesian Active Learning under Model Misspecification

346은 foundation model을 활용한 data-efficient active learning을 다루며, 1100의 오류완화 중심 framework의 실제 데이터 적용 확장 사례입니다.

후속 연구

LAFA: A Framework for Reproducible Longitudinal Assessment of Protein Function Annotation Models

파운데이션 모델을 적극적으로 활용하여 벤치마킹 효율성과 데이터 효율성을 동시에 추구하는 이론적 확장 연구입니다.

후속 연구

A Systematic Survey and Benchmark of Deep Learning for Molecular Property Prediction in the Foundation Model Era

346 논문은 벤치마크 및 데이터 효율성, 재현성 한계를 physics-aware paradigms 관점에서 다뤄, 2997의 실행적 시사점을 심화시킵니다.

후속 연구

SR-CGCNN: Shared Recurrent Convolution in Crystal Graph Neural Networks for Materials Property Prediction

346의 Foundation-Model Surrogates와 같이 파라미터 효율적 및 재사용성 있는 모델 설계 관점이 3244의 모델 파라미터 경량화 노력과 접목되어, 재귀적 GNN 설계의 이론적 배경을 보완합니다.

응용 사례

Targeted materials discovery using Bayesian algorithm execution

Targeted materials discovery using Bayesian algorithm... 논문은 능동 학습 기반 소재 발견의 실제 응용 사례를 제시하여, ICAL과 실제 실험적 확장성을 비교해볼 수 있습니다.

응용 사례

Towards uncovering how large language model works: An explainability perspective

346은 실제 과학 문제에서 foundation model의 내부 해석 가능성 및 데이터 효율성 측정을 통해 836의 메커니즘 리뷰 결과를 응용합니다.

응용 사례

Grammars of formal uncertainty: When to trust llms in automated reasoning tasks

Foundation-Model Surrogates 논문은 물리/과학 작업에서 확률성과 결정론적 요구의 조율이 필요한 문맥 내 능동 학습 분야에 PCFG 기반 프레임워크 적용 사례를 보여줍니다.

응용 사례

SFT Memorizes, RL Generalizes: A Comparative Study of Foundation Model Post-training

RL의 일반화 능력에 대한 발견이 Foundation Model Surrogates의 능동학습 프레임워크, 특히 트랜스포머에 RL 적용 가능성 논의로 확장된다.

응용 사례

Foundation Models for Environmental Science: A Survey of Emerging Frontiers

Foundation Models for Environmental Science 논문은 환경과 소재 과학 등에서 대형 기초모델 활용을 탐구하며, TabPFN을 활용한 능동 학습 프레임워크의 실제 적용 사례를 제공합니다.

응용 사례

A Survey of AI for Materials Science: Foundation Models, LLM Agents, Datasets, and Tools

재료 과학의 LLM 및 파운데이션 모델 실제 응용에 관한 종합 리뷰로, TabPFN 등 새로운 서러게이트 기법 적용 사례를 참고할 수 있습니다.

응용 사례

Machine-Learned Interatomic Potentials for Predicting Physicochemical Properties of Molten Metal-Salt Systems for Calcium Electrolysis

TabPFN 기반의 FM 서로게이트를 통한 능동 학습 기법이 Ca-Cu 합금 MLIP 예측 등 실제 물리화학적 시스템 적용 사례와 접목될 수 있다.

응용 사례

Generative AI and the Foundation Model Era: A Comprehensive Review

생성형 AI와 파운데이션 모델 논의를 실제 소재적용 능동 학습 사례로 구체화한다.

Foundation-Model Surrogates Enable Data-Efficient Active Learning for Materials Discovery

Essence

Motivation

Achievement

How

Originality

Limitation & Further Study

Evaluation

같이 보면 좋은 논문

Foundation-Model Surrogates Enable Data-Efficient Active Learning for Materials Discovery

Essence

Motivation

Achievement

How

Originality

Limitation & Further Study

Evaluation

같이 보면 좋은 논문

🎧 Audio Overview