No has puesto el software, pero básicamente lo puedes hacer con cualquier programa capaz de hacer simulaciones dinámicas de cuerpos rígidos.
Lo primero es modelar las canicas y asignarle a todas las propiedades físicas de peso, rebote, zonas de colisión, etc, habrá una que es la que se supone que sale lanzada contra las otras, esa debe tener una aceleración asignada y valores de velocidad, bien sea con parámetros o mediante claves de animación.
Todo esto a grandes rasgos, mira en el manual/ayuda de tu programa, suele venir casi en todos el típico ejemplo del juego de bolos, te servirá para entender el proceso.
En max, si es ese tu software, se puede hacer perfectamente con el módulo Reactor y su documentación es lo suficientemente completa para lo que te expliqué antes. Suerte.