Article de recherche TripoSR

TripoSR: Fast 3D Object Reconstruction from a Single Image

Le rapport technique officiel derrière TripoSR : un modèle feed-forward basé sur un Transformer qui reconstruit un mesh 3D à partir d'une seule image en moins de 0,5 seconde. Publié sur arXiv en mars 2024 et diffusé sous licence MIT dans le cadre d'une collaboration entre Stability AI et Tripo AI.

Auteurs
Dmitry Tochilkin, David Pankratz, Zexiang Liu, Zixuan Huang, Adam Letts, Yangguang Li, Ding Liang, Christian Laforte, Varun Jampani, Yan-Pei Cao
Publié
4 mars 2024 (arXiv)
Identifiant arXiv
2403.02151
Domaine
Computer Vision and Pattern Recognition (cs.CV)
Licence
MIT

Résumé

TripoSR est un modèle de reconstruction 3D qui s'appuie sur une architecture Transformer pour une génération 3D feed-forward rapide, produisant un mesh 3D à partir d'une seule image en moins de 0,5 seconde. Il repose sur l'architecture réseau LRM et y ajoute des améliorations substantielles dans le traitement des données, la conception du modèle et les techniques d'entraînement. Sur des jeux de données publics, il surpasse les autres solutions open source, tant sur le plan quantitatif que qualitatif. Il est diffusé sous licence MIT afin de donner aux chercheurs, aux développeurs et aux créatifs un accès à l'IA générative 3D actuelle.

Contributions principales

D'une seule image à la 3D en moins de 0,5 s

L'inférence feed-forward produit un mesh 3D complet à partir d'une image en bien moins d'une seconde sur un GPU, sans aucune optimisation par objet.

Architecture Transformer fondée sur LRM

Étend la conception du Large Reconstruction Model (LRM) avec des améliorations substantielles du traitement des données, de la conception du modèle et de l'entraînement.

Open source, sous licence MIT

Le code et les poids pré-entraînés sont diffusés sous la licence permissive MIT, libres pour un usage de recherche et commercial.

État de l'art parmi les modèles ouverts

Surpasse les autres méthodes open source de reconstruction à partir d'une seule image sur des benchmarks publics, tant sur le plan quantitatif que qualitatif.

Auteurs

TripoSR est une collaboration entre Stability AI et Tripo AI. Le rapport technique recense dix auteurs :

  • Dmitry Tochilkin
  • David Pankratz
  • Zexiang Liu
  • Zixuan Huang
  • Adam Letts
  • Yangguang Li
  • Ding Liang
  • Christian Laforte
  • Varun Jampani
  • Yan-Pei Cao

Comment citer

Utilise l'entrée BibTeX suivante pour citer TripoSR dans un travail académique :

@article{TripoSR2024,
  title={TripoSR: Fast 3D Object Reconstruction from a Single Image},
  author={Tochilkin, Dmitry and Pankratz, David and Liu, Zexiang and Huang, Zixuan and Letts, Adam and Li, Yangguang and Liang, Ding and Laforte, Christian and Jampani, Varun and Cao, Yan-Pei},
  journal={arXiv preprint arXiv:2403.02151},
  year={2024}
}

Ressources de l'article

Page de résumé arXiv

Le rapport technique complet, le résumé et la liste des auteurs sur arXiv (2403.02151), avec PDF et export de citation.

Code source sur GitHub

L'implémentation officielle sous licence MIT sur VAST-AI-Research/TripoSR, avec run.py et des images d'exemple.

Modèle sur Hugging Face

Les poids TripoSR pré-entraînés et la fiche du modèle sur stabilityai/TripoSR, prêts à charger pour l'inférence.

FAQ sur l'article TripoSR

Questions fréquentes sur le rapport technique de TripoSR. Tu veux le voir à l'œuvre ? Essaie la démo gratuite et reconstruis un modèle 3D à partir d'une image.

Vois l'article à l'œuvre

TripoSR transforme une seule image en modèle 3D en moins d'une seconde. Essaie-le gratuitement dans ton navigateur, sans installation.