ML(기계 학습) 분야는 널리 채택되어 특정 시나리오에 ML을 적용해야 하는 상당한 수요가 발생했습니다. 이는 아직 비용이 많이 들고 사소하지 않습니다. ML 작업 해결의 자동화(예: AutoML)에 대한 주된 접근 방식은 종종 시간이 많이 걸리고 인간 개발자가 이해하기 어렵습니다. 반면에 인간 엔지니어는 작업을 이해하고 솔루션에 대한 추론을 할 수 있는 놀라운 능력을 가지고 있지만 그들의 경험과 지식은 종종 희박하고 정량적 접근 방식으로 활용하기 어렵습니다. 이 백서에서는 최신 LLM을 활용하여 새로운 작업을 위한 ML 솔루션을 개발하는 새로운 프레임워크 MLCopilot을 도입하여 기계 지능과 인간 지식 사이의 격차를 해소하는 것을 목표로 합니다. LLM의 기능을 확장하여 구조화된 입력을 이해하고 새로운 ML 작업을 해결하기 위한 철저한 추론을 수행할 수 있는 가능성을 보여줍니다. 그리고 일부 전용 설계 후 LLM은 (i) ML 작업의 기존 경험에서 관찰하고 (ii) 새로운 작업에 대한 유망한 결과를 제공하기 위해 효과적으로 추론할 수 있습니다. 생성된 솔루션은 높은 수준의 경쟁력을 달성하는 데 직접 사용할 수 있습니다.


https://arxiv.org/abs/2304.14979

MLCopilot: Unleashing the Power of Large Language Models in Solving Machine Learning TasksThe field of machine learning (ML) has gained widespread adoption, leading to a significant demand for adapting ML to specific scenarios, which is yet expensive and non-trivial. The predominant approaches towards the automation of solving ML tasks (e.g., AutoML) are often time consuming and hard to understand for human developers. In contrast, though human engineers have the incredible ability to understand tasks and reason about solutions, their experience and knowledge are often sparse and difficult to utilize by quantitative approaches. In this paper, we aim to bridge the gap between machine intelligence and human knowledge by introducing a novel framework MLCopilot, which leverages the state-of-the-art LLMs to develop ML solutions for novel tasks. We showcase the possibility of extending the capability of LLMs to comprehend structured inputs and perform thorough reasoning for solving novel ML tasks. And we find that, after some dedicated design, the LLM can (i) observe from the existing experiences of ML tasks and (ii) reason effectively to deliver promising results for new tasks. The solution generated can be used directly to achieve high levels of competitiveness.arxiv.org